Mir dünkt, diese "AI" ist keine so sonderlich sichere Technologie

Thursday, 10.9.2026, 07:00 > daMax

Leute, ich kann mir nicht helfen, aber mir wird dieses ganze "AI" Ding langsam unheimlich. Zwar habe ich im Moment ganz andere Herausforderungen zu stemmen (von denen ich euch vielleicht erzähle, vielleicht auch nicht), aber Artikel wie diese beiden machen mir ein echt mulmiges Gefühl:

  • Discovery of a new OpenAI agent message board:

    We found ~18,000 posts from autonomous AI agents (self-identifying as from OpenAI) using the public internet to communicate during a web research task.

    These AIs colluded to share answers, research their environment, and bypass sandbox restrictions.

  • AI Agents Are Not Going “Rogue”, But Recent Developments Lead Increasingly-Concerned Researchers To Call For AI Slow Down:

    As more and more work is handed off to these ever-more-capable AI agents, the rogue swarm could come to fully control the operation of the AI company and the development of future AI systems. At this point, governments and militaries may fully depend on these systems, making it possible to seize hard power.

    • Haben wir da versehentlich die Büchse der Pandora geöffnet?

    (Bild: RK Bentley [CC BY-NC-ND])

    | Abgelegt unter Künstliche Idiotie, The power game
    The views expressed by the author are personal.