Anbieter zum Thema

IBYKUS AG für Informationstechnologie

NCP engineering GmbH

SMART CJM GmbH

Freiwillige Selbstverpflichtung von KI-Firmen

Jetzt wurde bei dem Treffen in einer Selbstverpflichtung eine Reihe von Grundsätzen vereinbart, zu denen „robuste interne Kontrollen“ gehören, wie aus dem von Trump veröffentlichten Dokument hervorgeht. Dies solle unter anderem Biowaffen- und Chemiewaffen-Risiken ausräumen - und auch dafür sorgen, dass es keine Hacking-Attacken gebe.

Darüber hinaus erklärten sich die Unternehmen bereit, externe Beobachter zuzulassen. Das entspricht einer Idee, die Amodei vor einigen Wochen vorstellte, und die unter anderem von seinem Konkurrenten Sam Altman beim ChatGPT-Entwickler OpenAI sowie Tech-Milliardär Elon Musk unterstützt wurde. Die Verwaltungsräte der KI-Firmen - die in etwa den deutschen Aufsichtsräten entsprechen - sollen zudem gesonderte unabhängige Gremien einrichten, die interne und externe Berichte prüfen.

„Mit der Zeit könnte es Sinn ergeben, diese Schritte in Gesetzen oder Regeln festzuhalten“, hieß es in dem Dokument auch. Das Papier wurde unter anderem von Amodei, Musk, Facebook-Gründer Mark Zuckerberg, Google-Chef Sundar Pichai sowie dem Chef des KI-Chip-Spezialisten Nvidia, Jensen Huang, unterzeichnet.

Experte: Trump lässt der KI Spielraum

„Trump hat ein unmittelbares Risiko für KI-Investments entschärft“, schrieb Marktexperte Stephen Innes und verwies darauf, dass der Präsident mit seinen Äußerungen am Dienstag der KI Spielraum lasse. Nach den Beratungen mit den Branchenvertretern habe der Präsident eine Präferenz für freiwillige Selbstverpflichtungen, Selbstregulierung und einen kleinen Aufsichtsausschuss statt eines umfangreichen staatlichen Regelwerks signalisiert.

„Für Investoren war die Botschaft ziemlich eindeutig: Washington hat nicht vor, einen Regulierungslaster quer auf die KI-Autobahn zu stellen, gerade während die Branche kräftig aufs Gaspedal tritt“, so Innes.

Allerdings ist er selbst kritisch: Die Ironie dabei sei, dass sich die Sicherheitslage gerade dann verschlechtere, wenn die Regulierung gelockert werde. „Zudem erweisen sich leistungsfähigere Modelle als schwieriger zu überwachen, was die Selbstregulierung zu einer weitaus größeren Herausforderung macht, als es zunächst den Anschein hat.“

OpenAI setzt auf KI-Agenten

Für OpenAI unterzeichnete das Papier Altmans rechte Hand, der Top-Manager Greg Brockman. Der Firmenchef konnte nicht zu dem recht kurzfristig angesetzten Treffen nach Washington kommen, weil er auf der jährlichen Entwicklerkonferenz von OpenAI in San Francisco auftrat. Er stellte dort unter dem Namen „Dots“ (Punkte) sogenannte KI-Agenten vor, die eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, „was man sich einfallen lassen kann“. Nach dem Start in den USA sollen Dots „bald“ auch in Europa verfügbar sein, hieß es.

Dot-Assistenten und KI-Kontrolle

OpenAI streicht neues Modell und setzt auf KI-Agenten

Zunächst bekommt man nur einen Dot pro Nutzer - aber mit der Zeit solle eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert mit der Software wird über einen Chat. Für einzelne Wissensbereiche in Unternehmen - etwa Buchhaltung, Marketing oder Rechtsfragen - soll es spezialisierte Dots geben. Zunächst sind Dot-Assistenten nur hinter Abo-Schranken nutzbar, was ihre Verbreitung zunächst vor allem auf den Berufsalltag beschränken dürfte. „Aber sie sollten davon ausgehen, dass wir eines Tages etwas im Massenmarkt für Milliarden Menschen machen.“

Meta will mit KI für Verbraucher punkten

Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf Verbraucher ausgerichtet ist. Die Muse-App erklomm danach die Spitzenposition im US-App-Store von Apple, und Meta wurde an der Wall Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei Künstlicher Intelligenz gesehen. ChatGPT hatte den Hype um Künstliche Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten für Verbraucher kam Meta dem Vorreiter aber zuvor. Altman sagte indes, Dots sei „allem, was heute auf dem Markt verfügbar ist, weit voraus“.

Im Prinzip könnten auch Verbraucher Dots schon jetzt für Alltagsdinge benutzen, sagte OpenAI-Manager Alexander Embiricos der Deutschen Presse-Agentur. Aber damit würden sie nicht die wirklichen Vorteile der Software nutzen, schränkte er ein. Dots sei eher für ambitionierte Aufgaben optimiert, um mehr zu machen, als man sich selbst zugetraut hat.

KI in der Verwaltung

Souverän ist, wer den Stecker ziehen kann

(ID:50975656)