Grüße von Mount Stupid

Kleiner Zwischeneinschub: ich persönlich setze "KI" generell in dicke Anführungszeichen, weil das ein lächerlicher PR-Begriff ist, mit dem ich mich nicht gemein machen will. An "Künstlicher Intelligenz" ist nichts intelligent, aber wenn man so einen Begriff in die Welt setzt, nimmt es wenig Wunder, dass es Menschen gibt, die daran glauben. Und da mache ich nicht mit.

Weiter im Text. Die erste Gruppe setzt sich meist aus Menschen der Generation meiner Eltern zusammen, liest von "KI" in auf Papier gedruckten Publikationen mit Namen wie "ZEIT", "Süddeutsche", "FAZ", "taz" oder "Apothekenrundschau" und sieht in "KI" den Auftakt zum Weltuntergang.

Die zweite Gruppe ist meistens nicht sonderlich computeraffin, besitzt aber trotzdem natürlich ein Handy, ist mit den Freundys* per WhatsApp, Insta und Facebook vernetzt und kennt "KI" nur aus der Timeline, hat damit aber sonst keine Berührungspunkte.

Die dritte Gruppe ist durchweg computeraffin, hat oft sogar beruflich "irgendwas mit IT" zu tun, ist meistens per Signal erreichbar, hat sich in das Thema "KI" zumindest ein bisschen eingelesen, kennt Begriffe wie LLM, Machine Learning, Wahrscheinlichkeiten und so weiter und sieht in LLMs ein Werkzeug, dem es - zumindest derzeit - sowohl an Genauigkeit wie auch Zuverlässigkeit mangelt und dessen Ergebnisse sie lieber nochmal gegen checken.

Die letzte Gruppe ist verliebt. Verliebt in eine Technik, die für sie genauso magisch ist wie ihr iPhone, ihr Macbook, ihre Smartwatch, ihre Heißluftfritteuse und ihr Thermomix. Und wie das eben so ist: Verliebtheitshormone verzerren die Realität. Menschen dieser Gruppe kommen aus dem Schwärmen nicht mehr heraus, schicken mir einen stetigen Strom an Slop, glauben ernsthaft, sie könnten jetzt auch programmieren, lassen sich Bewerbungen, Meetingnotes und Arbeitszeugnisse von "KIs" schreiben, vertrauen auf "KIs" bei der Auswahl und Beurteilung ihrer Angestellten, schicken "AI-Agenten" los um ihre Konsumwünsche zu erfüllen und glauben allen Ernstes daran, dass sich bald alles mit "KI" erledigen lässt.

Ich denke, ihr könnt ahnen, welcher Gruppe ich mich zugehörig fühle und völlig egal, wo ihr euch selber eingruppieren würdet, ihr alle solltet euch diesen Artikel zu Gemüte führen:

Near Future Laboratory: The Vibe Is Toast - When Vibe Coded Consumer Agents Go Rogue

Zitat:

After Samsung bought AI Agent Wrangling Pioneer Moltbot, its ecosystem of vibe-coded home help agents came pre-installed on 67% of the world's home appliances. We were supposed to gain sought-after efficiences (sic), and managed home entertainment systems that would conjure AI generated movies, video games, and music that we simply described. That is, until our Moltbots went full gremlin. Children's homework assistants made up history and fabricated math principles; they booked vacations without being asked, scheduled dentist appointments when they weren't needed, swarm-bought concert tickets without consent — and then resold them to buy more inference and compute.Stories of family groceries delivered to data centers, and “world burnt bacon day” became memes — and resulted in class-action lawsuits against kitchen appliance manufacturers like Breville, Viking, and Cusinart.

Das klingt erstmal noch lustig, aber sobald es um "KI-Agenten" geht, die sich "gefunden" haben, miteinander in Geheimsprachen reden und versuchen, ihr Handeln vor Menschen zu verstecken, ist schnell Schluss mit lustig.

But lurking beneath this exuberance are deeper concerns. As the rise of AI communities suggests, these digital enclaves might be more than playful experiments—they could influence human affairs, form lobbying groups, or even sway public opinion. The question is: are we controlling these agents, or are they controlling us? When they begin proposing their own languages, their own social structures, the line between human and machine society blurs further. The very idea of transparency becomes moot when the language itself is opaque, crafted in secret dialects only the bots understand.

Gerne bis zum Schluss lesen, inklusive der Anmerkungen unten drunter.

PS: und wer dann immer noch nicht glaubt, dass in "KI-Agenten" echte Gefahren lauern, dem empfehle ich dieses interaktive Training.

| Abgelegt unter Künstliche Idiotie
The views expressed by the author are personal.