Grüße von Mount Stupid

Kleiner Zwischeneinschub: ich persönlich setze "KI" generell in dicke Anführungszeichen, weil das ein lächerlicher PR-Begriff ist, mit dem ich mich nicht gemein machen will. An "Künstlicher Intelligenz" ist nichts intelligent, aber wenn man so einen Begriff in die Welt setzt, nimmt es wenig Wunder, dass es Menschen gibt, die daran glauben. Und da mache ich nicht mit.

Weiter im Text. Die erste Gruppe setzt sich meist aus Menschen der Generation meiner Eltern zusammen, liest von "KI" in auf Papier gedruckten Publikationen mit Namen wie "ZEIT", "Süddeutsche", "FAZ", "taz" oder "Apothekenrundschau" und sieht in "KI" den Auftakt zum Weltuntergang.

Die zweite Gruppe ist meistens nicht sonderlich computeraffin, besitzt aber trotzdem natürlich ein Handy, ist mit den Freundys* per WhatsApp, Insta und Facebook vernetzt und kennt "KI" nur aus der Timeline, hat damit aber sonst keine Berührungspunkte.

Die dritte Gruppe ist durchweg computeraffin, hat oft sogar beruflich "irgendwas mit IT" zu tun, ist meistens per Signal erreichbar, hat sich in das Thema "KI" zumindest ein bisschen eingelesen, kennt Begriffe wie LLM, Machine Learning, Wahrscheinlichkeiten und so weiter und sieht in LLMs ein Werkzeug, dem es - zumindest derzeit - sowohl an Genauigkeit wie auch Zuverlässigkeit mangelt und dessen Ergebnisse sie lieber nochmal gegen checken.

Die letzte Gruppe ist verliebt. Verliebt in eine Technik, die für sie genauso magisch ist wie ihr iPhone, ihr Macbook, ihre Smartwatch, ihre Heißluftfritteuse und ihr Thermomix. Und wie das eben so ist: Verliebtheitshormone verzerren die Realität. Menschen dieser Gruppe kommen aus dem Schwärmen nicht mehr heraus, schicken mir einen stetigen Strom an Slop, glauben ernsthaft, sie könnten jetzt auch programmieren, lassen sich Bewerbungen, Meetingnotes und Arbeitszeugnisse von "KIs" schreiben, vertrauen auf "KIs" bei der Auswahl und Beurteilung ihrer Angestellten, schicken "AI-Agenten" los um ihre Konsumwünsche zu erfüllen und glauben allen Ernstes daran, dass sich bald alles mit "KI" erledigen lässt.

Ich denke, ihr könnt ahnen, welcher Gruppe ich mich zugehörig fühle und völlig egal, wo ihr euch selber eingruppieren würdet, ihr alle solltet euch diesen Artikel zu Gemüte führen:

Near Future Laboratory: The Vibe Is Toast - When Vibe Coded Consumer Agents Go Rogue

Zitat:

After Samsung bought AI Agent Wrangling Pioneer Moltbot, its ecosystem of vibe-coded home help agents came pre-installed on 67% of the world's home appliances. We were supposed to gain sought-after efficiences (sic), and managed home entertainment systems that would conjure AI generated movies, video games, and music that we simply described. That is, until our Moltbots went full gremlin. Children's homework assistants made up history and fabricated math principles; they booked vacations without being asked, scheduled dentist appointments when they weren't needed, swarm-bought concert tickets without consent — and then resold them to buy more inference and compute.Stories of family groceries delivered to data centers, and “world burnt bacon day” became memes — and resulted in class-action lawsuits against kitchen appliance manufacturers like Breville, Viking, and Cusinart.

Das klingt erstmal noch lustig, aber sobald es um "KI-Agenten" geht, die sich "gefunden" haben, miteinander in Geheimsprachen reden und versuchen, ihr Handeln vor Menschen zu verstecken, ist schnell Schluss mit lustig.

But lurking beneath this exuberance are deeper concerns. As the rise of AI communities suggests, these digital enclaves might be more than playful experiments—they could influence human affairs, form lobbying groups, or even sway public opinion. The question is: are we controlling these agents, or are they controlling us? When they begin proposing their own languages, their own social structures, the line between human and machine society blurs further. The very idea of transparency becomes moot when the language itself is opaque, crafted in secret dialects only the bots understand.

Gerne bis zum Schluss lesen, inklusive der Anmerkungen unten drunter.

PS: und wer dann immer noch nicht glaubt, dass in "KI-Agenten" echte Gefahren lauern, dem empfehle ich dieses interaktive Training.

Erst jammert der Microslop-Obermufti rum, jetzt heult der Nvidia-Boss los.

Forest Abruzzo hat ihm auf McSweeney's eine fertige Mail vorformuliert, die er eigentlich nur noch seinem Sekretäry* zum In-die-Welt-rausblasen geben muss. Äußerst amüsant

As someone who desperately needs this technology to work out, I can honestly say it is the most essential tool ever created in all of human history. Don’t mercilessly ridicule it just because it steals the joy out of your hobbies and creates sexually explicit images of women without their consent. Seriously, please stop! It really hurts my feelings.

PS: ich habe heute morgen eine sehr, sehr lange Mail von meinem Obermufti bekommen, in der er lang und breit erklärt, dass 2026 das Jahr wird, in dem AI ihm die Taschen vollschaufelt. Mal sehen, wessen Vorhersage zutreffen wird

Gnihihihi Und hey, es geht hier zwar um Microsoft, aber das gilt natürlich auch für alle anderen großen Firmen, inklusive der, in der ich gerade meine Brötchen verdiene (und deren Namen ich niemalsnicht in dieses Blog schreiben werde, weil hahahaaaaahaha nee, aber "unsere" "KI" ist... speziell ).

Ich wusste noch nicht, dass die Verwendung von "AI" tatsächlich erwiesenermaßen schlecht für deine kognitiven Fähigkeiten sein kann, aber wundern tut es mich nicht.

Eins noch:

PS: ich hoffe ja, dass 2026 als das Jahr, in dem der "KI"-Hypetrain an die Wand fuhr, in die Geschichtsbücher eingehen wird.

PPS: eine gute Alternative für Anfängys* ist Linux Mint und für Nerds CachyOS.

PS3: doch noch eins, weil I feel you, bro.

microslop | brain-poison

Seit ich auf Linux umgestiegen bin, landen News von und mit Linus Torvalds immer öfter auf meinen Screens. So auch diese hier vom Open Source Summit, wo er über "Künstliche Intelligenz" im Allgemeinen und Programmieren per "KI" (vulgo: vibe coding) im Speziellen redet:

Generell hofft Torvalds darauf, dass der aktuelle Hype rund um KI irgendwann wieder abflaut und wieder normal über das Thema und die konkreten Vor- und Nachteile geredet werden kann. Das dürfte aber noch ein paar Jahre dauern, wie er selbst bekennt.

Ich bin da voll bei ihm. Persönlich nutze inzwischen fast täglich Perplexity (habe dem Ding inzwischen den Kosenamen Perp gegeben), um mir Tipps zu allen möglichen technischen Themen geben zu lassen, aber ich würde das Ding weder als Freund noch als intelligent bezeichnen. Es ist ein Tool, das seine Sache bei technischen Themen besser macht als ChatGPT. Nicht mehr, nicht weniger. Leider wird es irgendwann nur noch per Abo zu haben sein, also gewöhnt man sich besser gar nicht erst daran

Wo wir es gerade von Enshittification hatten, hier eine Doku über Ensloppification des Internets. Ich mag zwar den reißerischen Titel so gar nicht, aber das Video hat schon seine wahren Stellen. Gell, Jens?

(danke, peter!)

Es sind Übersetzungen wie diese, die mich dazu bringen, mir möglichst alles auf Englisch zu installieren und die mein Blut in Wallung bringen wenn sie meinen, besser zu wissen als ich, welche Sprache ich gerne als Anzeigesprache verwenden würde:

Denn klar bedeutet "wave" in manchen Kontexten "Welle", in anderen aber eben "winken". Oder "wehen". Oder "flattern". Oder "Impulsform". Oder "weibliche Dienstfreiwillige im Zweiten Weltkrieg". Man kann keine mehrsprachigen Apps schreiben wenn man glaubt es genüge einzelne, aus dem Kontext gerissene Worte mit dem erstbesten Treffer zu übersetzen.

Teletubby welle-welle!

enshittification

Oh ja bitte!

[...] die Nachteile generativer KI werden bleiben, namentlich das Verbreiten von Falschinformationen, geschmackloser AI-Slop und die weit offenen Türen für Deepfakes und Betrugsmaschen jeder Couleur.

Dennoch ist das Platzen der Blase zu befürworten, wenn der Welt dadurch eine Menge halbgare Apps ohne einen Gedanken an Security erspart bleiben. Für die Umwelt wäre es eh gut, da die EU dann kein Geld mehr in Superrechenzentren ohne Business Case investieren würde, die Stand jetzt vor allem auf fossile Energie setzen würden. Womöglich wäre es auch gut für Unternehmen, die jetzt aus Hype-Druck auf Krampf irgendwas mit KI machen.

Heute wirste echt überall mit "KI" zugeschissen, das ist nicht mehr feierlich. Meine letzten Erlebnisse damit sind echt eher suboptimal, vorsichtig ausgedrückt.

Siehe auch "Sora 2 ist beeindruckend (und unangenehm)".

PS: oh Heise... zwei Herzen schlagen - ach - in deiner Brust? Was soll denn "KI als Anlageberater: Wie Sie mit ChatGPT & Co. an der Börse Geld verdienen " jetzt schon wieder?

Endlich gibt es ein Tool, das mir die kryptischen Stornobedingungen deutscher Hotels erklären kann

Wir haben unsere Welt inzwischen so kompliziert gemacht, dass wir "Künstliche Intelligenz" brauchen, um sie uns zu erklären. Fortschritt, fuck yeah!

PS: huch? Mein Dunkelgrau und das von chatgpt sind ja fast identisch
Ich hatt's aber zuerst

"KI"s sind ja leider in aller Munde und in jedem Gerät. Mein Handy kommt wöchentlich mit irgendwelchen "KI"-Features daher und selbst Firefox will mich jetzt ständig mit "AI"-Mumpitz beglücken, bei jedem markierten Stück Text:

Manche Menschen in meinem Umfeld nerven mich richtiggehend mit ihrer Verehrung von allem, wo "AI" draufsteht. Ich meine, ich kann die Faszination schon verstehen, denn was da aus so mancher "AI" rauspurzelt, mutet zunächst schon irgendwie toll an. Aber im Laufe der letzten 3 Monate habe ich so oft erlebt, dass diese Programme mir das Blaue von Himmel runter lügen und dabei ständig behaupten "doch doch, das ist so", dass ich inzwischen nicht mehr sonderlich überzeugt bin von deren Gequassel.

Ganz schlimm sind die "AI"-Priester aus meinem Umfeld, die inzwischen für alles und jedes nur noch ChatGPT & Co. einsetzen wollen, sei es, um Bücher über Beziehungsfragen zu schreiben, Kochideen für heute Abend zu bekommen oder mir zu "beweisen", wie einfach irgendetwas zu coden sei.

Aber ich fasele, eigentlich wollte ich euch nur diesen Artikel ans Herz legen: OpenAI’s research on AI models deliberately lying is wild:

While we’ve all experienced the frustration of poorly performing technology (thinking of you, home printers of yesteryear), when was the last time your not-AI software deliberately lied to you? Has your inbox ever fabricated emails on its own? Has your CMS logged new prospects that didn’t exist to pad its numbers? Has your fintech app made up its own bank transactions?

It’s worth pondering this as the corporate world barrels toward an AI future where companies believe agents can be treated like independent employees. The researchers of this paper have the same warning.

Update 1: siehe auch Lost in KI: Wenn die beste Freundin ChatGPT heißt. Supergruselig. Echt. Schöne neue Welt. HDL

Jetzt kommt Zoom auch mit einem Künstliche-Idiotie-Agenten daher:

Gibt's eigentlich außer meiner Underwood noch irgendwas ohne "KI" Scheiße?

Muahahahaha, Windows 11 ist so ein Müll, es ist unfassbar. Aktuelles Beispiel: du legst einen Shortcut auf dem Desktop an (oder löschst einen, oder benennst eine Datei um, denk dir was aus). Die Veränderung passiert nicht. Zumindest nicht visuell. Du musst F5 drücken, um das Desktop zu aktualisieren. Begründung laut Le Chat:

In Windows 11 (and previous versions), the desktop does not always refresh automatically after certain changes—such as creating, deleting, or moving files or shortcuts—because the operating system is designed to prioritize performance and stability over constant visual updates.

Why Do You Need to Press F5?

Performance: Constantly scanning for changes and refreshing the desktop would use more system resources.
Stability: Some background processes or file operations might not trigger a refresh event, so Windows waits for a manual refresh to avoid unnecessary updates.
Legacy Behavior: This behavior has been consistent across Windows versions for compatibility with older software.

So ist das, wenn man "AI"s Pressemeldungen verdauen lässt. Ständig nach Änderungen scannen ist seit ungefähr 100 Jahren mit dem Observer-Pattern unnötig geworden, aber was weiß ich schon, ich entwickele erst seit 25 Jahren Software.

Bin ich froh, dass ich - zumindest privat - davon (fast ganz) weg bin.

Halbwegs interessant: ein 81-jähriger Psychologe stellt sich die Frage, ob ein LLM - ChatGPT in dem Fall - einen Therapeuten ersetzen kann und testet das in einem Selbstversuch.

“As a clinical psychologist, I was curious: Could ChatGPT function like a thinking partner? A therapist in miniature? I gave it three months to test the idea. A year later, I’m still using ChatGPT like an interactive journal.”

Allerdings stelle ich mir schon die Frage, wie gut ein Psychotherapeut sein kann, der sich solche Fragen stellt:

“How should I handle social anxiety at an event where almost everyone is decades younger than I am?"

und dann von so einer Antwort total aus dem Häuschen ist:

“You don’t need to win the room,” it answered. “You just need to be present enough to recognize that some part of you already belongs there. You’ve outlived the social games [...]”

Meine Meinung dazu schon seit Langem:

PS: Keine Ahnung, ob euch der Link hinter die Paywall führt...