For years I loved creating with AI and expressing myself through it. Then I read the AI 2027 report, and it changed everything.
This article is my attempt to put down where I stand: on the problems, on the potential, and on what I am actually going to do about it.
Why AI safety should be top priority
By now I believe safe AI is the most important thing we can deal with.
In the largest survey of AI researchers to date, depending on how the question was asked, between 38% and 51% of them gave at least a 10% chance that advanced AI leads to outcomes as bad as human extinction. Read that again. These are the people building it.
And the list of dangers below that is enormous. Job loss. Fake-everything. Mass surveillance. Threats to democracy. All the way up to AI literally blowing up humanity. I’m not a doomer. But this could be a dystopia.
If you want the full picture, the AI 2027 report is the place to start, and this YouTube video is a well-produced summary of it.
The other half of the story
But of course AI also has enormous potential.
It already caused real breakthroughs in science. AlphaFold, built by Google DeepMind, cracked a problem biologists had been stuck on for 50 years: predicting how proteins fold. It has since mapped the structure of nearly every protein known to science, around 200 million of them, and made them free for anyone to use. The work won the 2024 Nobel Prize in Chemistry. Researchers are already using it to design new medicines for diseases like cancer and Alzheimer’s, to understand antibiotic resistance, and even to build enzymes that break down plastic.
And that is just one example. Other potentials could be a high universal basic income to cushion the job loss, more focus on meaningful work, solving our energy problems and climate change, robotics, and what Tesla now openly calls “sustainable abundance”. I don’t want to promote Tesla here, but the claim is worth looking at, I think.
This could be a utopia.
Between utopia and dystopia
So we find ourselves somewhere between utopia and dystopia. So what can we do about it?
I think we all need to reclaim our agency in this.
AI often makes me anxious. But anxiety is not a productive emotion. So I am trying to move from anxiety to agency. Agency, the way I understand it, means being able to make an impact within your own circle of influence. And in the face of AI Agents becoming this powerful, I think it’s a nice play on words.
For me, agency meant starting a new venture called AIwareness. I loved the domain name and the brand the moment it came to me. So I taught myself vibe coding with AI and built the website myself. It was such a creative pleasure. The moment I realised I could now build coded websites and apps almost felt religious.
And that’s the thing. The same technology that scares me is also the one that let me build all of this. AI can potentially help us solve the very problems we’re so worried about.
Beyond the doom
Here is what I keep coming back to. The AI 2027 report doesn’t end on the scary scenario. The people who modelled it also wrote a piece on what you can do about it. The researchers most clear-eyed about the risk are the same ones insisting that action matters.
And there is a whole field and a growing community forming around exactly this question, with real on-ramps for people who aren’t engineers. You don’t need to work at a lab to take part. You need to pay attention, and then to do something with that attention.
So what does this change?
The AI 2027 scenario has two endings. A reckless race, and a slower, safer path. The future isn’t a fixed track. It branches.
Which branch we end up on depends, at least in part, on how many of us are awake to what’s happening and willing to push. That reframes everything for me. AI stops being something that happens to us, and becomes something we get to shape. Awareness is the first lever.
That is why AI needs AIwareness.
Come make sense of it with us
So I started co-creating with my friends and colleagues at the Cocreation Loft. Together we’re hosting a free sense-making event:
We’ll talk, listen, and make sense of AI together. If you’re in Berlin, I would love to have you there. Because gathering and co-creating is, for me, the first real step towards reclaiming our agency.
Thanks for reading! Subscribe for free to receive new posts and support my work.
Sources and links
- AI 2027 report: ai-2027.com
- Video summary of AI 2027: AI in Context
- Survey of AI researchers on catastrophic risk (AI Impacts 2023 survey): Grace et al., 2024, and coverage in IEEE Spectrum
- What you can do about AI 2027: AI Futures Project
- AlphaFold Protein Structure Database: alphafold.ebi.ac.uk
- Nobel Prize in Chemistry 2024: nobelprize.org
- Tesla Master Plan Part 4: tesla.com
- This note on Substack: From AI Anxiety to Agency
Jahrelang habe ich es geliebt, mit KI zu gestalten und mich durch sie auszudrücken. Dann habe ich den Bericht AI 2027 gelesen, und das hat alles verändert.
Mit diesem Text versuche ich festzuhalten, wo ich stehe: bei den Problemen, beim Potenzial und bei dem, was ich konkret tun werde.
Warum KI-Sicherheit oberste Priorität haben sollte
Inzwischen glaube ich, dass sichere KI das Wichtigste ist, worum wir uns kümmern können.
In der bisher größten Umfrage unter KI-Forschenden sahen, je nach Fragestellung, zwischen 38 % und 51 % der Befragten eine Wahrscheinlichkeit von mindestens 10 %, dass fortgeschrittene KI zu Folgen führt, die so schlimm sind wie das Aussterben der Menschheit. Lies das noch einmal. Das sind die Menschen, die sie bauen.
Und die Liste der Gefahren darunter ist riesig. Jobverlust. Fälschungen überall. Massenüberwachung. Bedrohungen für die Demokratie. Bis hin dazu, dass KI die Menschheit buchstäblich auslöscht. Ich bin kein Schwarzmaler. Aber das könnte eine Dystopie werden.
Wenn Du das ganze Bild willst, ist der Bericht AI 2027 der richtige Einstieg, und dieses YouTube-Video ist eine gut gemachte Zusammenfassung (auf Englisch).
Die andere Hälfte der Geschichte
Aber natürlich hat KI auch ein enormes Potenzial.
Sie hat in der Wissenschaft schon echte Durchbrüche ermöglicht. AlphaFold, entwickelt von Google DeepMind, hat ein Problem geknackt, an dem die Biologie seit 50 Jahren festhing: vorherzusagen, wie sich Proteine falten. Seitdem hat es die Struktur fast aller Proteine vorhergesagt, die die Wissenschaft kennt, rund 200 Millionen, und sie für alle frei zugänglich gemacht. Die Arbeit wurde mit dem Nobelpreis für Chemie 2024 ausgezeichnet. Forschende nutzen es schon, um neue Medikamente gegen Krankheiten wie Krebs und Alzheimer zu entwickeln, um Antibiotikaresistenzen zu verstehen und sogar, um Enzyme zu bauen, die Plastik abbauen.
Und das ist nur ein Beispiel. Weitere Möglichkeiten wären ein hohes bedingungsloses Grundeinkommen, das den Jobverlust abfedert, mehr Raum für sinnvolle Arbeit, Lösungen für unsere Energieprobleme und den Klimawandel, Robotik und das, was Tesla inzwischen offen „nachhaltigen Überfluss“ nennt („sustainable abundance“). Ich will hier keine Werbung für Tesla machen, aber ich finde, die Behauptung ist einen Blick wert.
Das könnte eine Utopie werden.
Zwischen Utopie und Dystopie
Wir befinden uns also irgendwo zwischen Utopie und Dystopie. Was können wir also tun?
Ich glaube, wir alle müssen uns hier unsere Handlungsfähigkeit zurückholen.
KI macht mir oft Angst. Aber Angst ist kein produktives Gefühl. Also versuche ich, von der Angst in die Handlungsfähigkeit zu kommen. Handlungsfähigkeit, so wie ich sie verstehe, heißt, im eigenen Einflussbereich etwas bewirken zu können. Im Englischen heißt das „Agency“, und jetzt, wo KI-Agenten so mächtig werden, finde ich das ein schönes Wortspiel.
Für mich hieß Handlungsfähigkeit, ein neues Vorhaben zu starten: AIwareness. Ich habe den Domainnamen und die Marke geliebt, sobald sie mir eingefallen sind. Also habe ich mir mit KI Vibe Coding beigebracht und die Website selbst gebaut. Das war eine riesige kreative Freude. Der Moment, in dem mir klar wurde, dass ich jetzt selbst Websites und Apps programmieren kann, hat sich fast religiös angefühlt.
Und genau darum geht es. Dieselbe Technologie, die mir Angst macht, hat es mir auch ermöglicht, all das zu bauen. KI kann uns möglicherweise helfen, genau die Probleme zu lösen, über die wir uns so viele Sorgen machen.
Jenseits der Untergangsstimmung
Darauf komme ich immer wieder zurück. Der Bericht AI 2027 endet nicht mit dem beängstigenden Szenario. Die Leute, die es modelliert haben, haben auch einen Text darüber geschrieben, was Du tun kannst. Die Forschenden, die das Risiko am klarsten sehen, sind dieselben, die darauf bestehen, dass Handeln zählt.
Und rund um genau diese Frage entstehen ein ganzes Fachgebiet und eine wachsende Gemeinschaft, mit echten Einstiegsmöglichkeiten für Menschen, die nicht aus der Technik kommen. Du musst nicht in einem KI-Labor arbeiten, um mitzumachen. Du musst hinschauen und dann etwas mit dieser Aufmerksamkeit anfangen.
Was ändert das?
Das Szenario AI 2027 hat zwei Enden. Ein rücksichtsloses Wettrennen und einen langsameren, sichereren Weg. Die Zukunft ist kein festes Gleis. Sie verzweigt sich.
Auf welchem Zweig wir landen, hängt zumindest teilweise davon ab, wie viele von uns wach dafür sind, was gerade passiert, und bereit sind, Druck zu machen. Das verändert für mich alles. KI ist dann nicht mehr etwas, das uns passiert, sondern etwas, das wir gestalten können. Bewusstsein ist der erste Hebel.
Deshalb braucht KI AIwareness.
Komm und denk mit uns
Also habe ich angefangen, mit meinem Freundeskreis und meinem Kollegium im Cocreation Loft gemeinsam etwas zu schaffen. Zusammen veranstalten wir einen kostenlosen Sense-Making-Abend:
Wir sprechen, hören zu und ordnen KI gemeinsam ein. Wenn Du in Berlin bist, würde ich mich sehr freuen, Dich dort zu sehen. Denn zusammenkommen und gemeinsam gestalten ist für mich der erste echte Schritt, um uns unsere Handlungsfähigkeit zurückzuholen.
Danke fürs Lesen! Abonniere kostenlos, um neue Beiträge zu bekommen und meine Arbeit zu unterstützen.
Quellen und Links
- Bericht AI 2027: ai-2027.com
- Video-Zusammenfassung von AI 2027: AI in Context
- Umfrage unter KI-Forschenden zu katastrophalen Risiken (AI Impacts, Umfrage 2023): Grace et al., 2024, und ein Bericht in IEEE Spectrum
- What you can do about AI 2027: AI Futures Project
- AlphaFold Protein Structure Database: alphafold.ebi.ac.uk
- Nobelpreis für Chemie 2024: nobelprize.org
- Tesla Master Plan Part 4: tesla.com
- Diese Notiz auf Substack: From AI Anxiety to Agency