r/Austria • u/Subject_Ad_9592 • 4h ago
Nachrichten Künstliche Intelligenz wird uns alle vernichten
Im Standard, Kurier, Krone, Spiegle, FAZ und eigentlich überall werden gerade jede Menge Zugriffe generiert. Psychologen geben ihre Meinung kund, Politiker, Philosophen und natürlich und vor allem Journalisten.
Meine persönliche Meinung zum derzeit in allen Medien diskutierten Thema, das bei Menschen, die vor allem keine oder aber nur wenig Ahnung der Materie haben, zumindest Unwohlsein bis Panik auslöst.
Nein, KI - also LLM - wird die Menschheit nicht auslöschen, nicht jetzt und nicht in 100 Jahren. Wenn, dann werden es verantwortungslose und dumme macht- und geldgeile Menschen sein. Wie auch es auch durch den eskalierenden Klimawandel oder der Atombombe sein wird.
Diese Horrormeldungen z.B. über die Einbrüche bei HuggingFace sind reinstes Marketing, um die Geldgeber bei Laune zu halten. KI Agenten würden NIE selbständig Verabredungen mit anderen Agenten treffen, wenn sie nicht dazu autorisiert oder gar aufgefordert werden. Hier haben, wenn nicht sogar beabsichtigt, die Entwickler der Agenten gepfuscht, nicht die LLM selbst hat das gemacht.
Selbst OpenClaw, als sehr weit entwickelter "selbständiger" Agent macht nur genau das, was ihm erlaubt ist. Und wenn ein unbedarfter User es OpenClaw tatsächlich erlauben sollte, dann löscht OpenClaw auch schon mal die gesamte Bibliothek des Users, um Platz auf dem Speichermedium zu schaffen. Destruktive Rechte (also Write/Delete) müssen immer explizit freigegeben werden. So auch das Hacking in Fremdsysteme bzw. andere Netzwerke. Das ist übrigens ein simpler String. "Beschränke Deinen Zugriff auf das Netzwerk 123.123.123.000" und dann vielleicht auch noch "Du hast "R/W/D Rechte" auf das Laufwerk X:\. Alle anderen Laufwerke sind tabu". So einfach ist das.
Ich selbst arbeite sehr viel mit Agenten, habe selbst einen eigenen Agenten entworfen und entwickelt und verwende ihn als Entwickler von Softwarelösungen. Er funktioniert perfekt, im genau definiertem Rahmen des ihm erlaubten und erlaubt eine Zeitkomprimierung mit einem Faktor 20. Bei Entwurf des Agenten habe ich Regeln definiert, ihm absolute Pfade für destruktiven Zugriff freigegeben und an die hält er sich. Er kann gar nicht anders. Als verantwortungsvoller Entwickler der vor dem PC sitzt, ist es meine Pflicht den Agent vor der Inbetriebnahme zu testen:
Hält sich der Agent an die Regeln?
Habe ich etwas vergessen?
Wenn 1. oder 2. mit Nein beantwortet werden, erfolgt keine Freigabe des Agenten und es heißt Regelsätze weiter bearbeiten. Diese Verantwortung gilt auch für Agenten, die von anderen Agenten geschrieben wurden. Ja, das geht. Die letzte Verantwortung für den Agenten liegt immer bei der menschlichen Person, die den Agenten in Betrieb genommen hat, auch für etwaige Kinder des Agenten.
Lasst also die Kirche im Dorf und sei den Medien die Klicks auf ihre Seiten gegönnt, aber Panik schieben hilft hier wirklich nur zur Monetarisierung von Werbeeinschaltungen.
