Die Entwicklung von künstlicher Intelligenz schreitet rasant voran. Jetzt haben jedoch bekannte Tech-Größen wie Elon Musk und Steve Wozniak eine Pause bei der Entwicklung gefordert. Es brauche erst ethische und rechtliche Grundlagen, sonst drohe eine "Katastrophe".
Neben Tesla-Chef
Dieser Entwicklungs-Stopp solle der Branche Zeit geben, Sicherheitsstandards für die Entwicklung von KI festzulegen und mögliche Schäden durch die riskantesten KI-Technologien abzuwenden.
Der Aufruf wurde von dem gemeinnützigen Institut "Future of Life" veröffentlicht, bei dem Musk als externer Berater agiert. Neben dem Tesla-Chef unterzeichneten mehr als 1000 Personen das Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI, und mehrere Entwickler von Googles KI-Tochter DeepMind. Zu den Unterstützern gehören weiterhin die KI-Pioniere Stuart Russel, Gary Marcus und Yoshua Bengio.
In dem Manifest warnen sie vor Gefahren sogenannter Generativer KI, wie sie etwa mit dem Text-Roboter ChatGPT oder dem Bild-Generator DALL-E von OpenAI umgesetzt wurde. Diese KI-Tools können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen. Der Brief spricht unter anderem von "möglichen, katastrophalen Folgen für die Gesellschaft".
Sogar die KI nennt Regulierung und ethische Einordnung als wichtige Punkte. Auf die Frage "Was bringt KI mit sich?" antwortete unlängst ChatGPT: "Insgesamt hat der Einsatz von KI das Potenzial, erhebliche Vorteile für unsere Arbeitsweise zu bringen, erfordert jedoch auch eine sorgfältige Abwägung seiner Auswirkungen auf die Beschäftigung und ethische Fragen.“
Rasante KI-Entwicklung: Überholt die Technik den Menschen?
Mit der neuesten KI-Version GPT-4 ist eines der leistungsstärksten Systeme veröffentlicht worden, die es jemals gab. Die neue Evolutionsstufe verfügt erstmals auch über eine Art visuelles Vorstellungsvermögen. Die rasante Entwicklung holt den Gedanken an eine künstliche, allgemeine Intelligenz (AGI oder Artificial General Intelligence) aus dem Reich der Science Fiction in die Realität. Sie wird "immer greifbarer", schreibt das Tech-Magazin "Golem".
Diese Entwicklung birgt allerdings auch Gefahren. In dem offenen Brief heißt es, dass schon jetzt die Entwickler selbst teilweise nicht mehr verstehen, wie die KI manche Dinge bewerkstelligt. Und so können sie die Evolution der KI nicht mehr vorhersehen oder verlässlich kontrollieren.
Die Unterzeichner des Briefs fordern daher, den Entwicklungsstand auf GPT-4-Niveau für mindestens sechs Monate einzufrieren. Sie fordern alle Unternehmen, die an KI arbeiten, auf, ihre Forschung zu unterbrechen, damit unabhängige Experten stabile Sicherheitsprotokolle und verbindliche Planungs- und Managementregeln entwickeln können, die dafür sorgen, dass der „außer Kontrolle geratene Wettlauf“ transparent und von Menschen beherrschbar bleibt.
Der Digitalberater der EU-Kommission und Mitglied der Datenethikkommission der Bundesregierung, Paul Nemitz sagte dem RedaktionsNetzwerk Deutschland (RND), dass die neue Technologie "ein Gamechanger" sei. "Diese Firmen forschen mit zweistelligen Milliardenbeträgen und Tausenden von Wissenschaftlern an einer unglaublich mächtigen, möglichen Hochrisikotechnologie."
Nemitz und Kollege Matthias Pfeffer warnen aber auch: "Es ist denkbar, dass wir eines Tages eine böse Überraschung erleben.“ Sie fordern deshalb – ähnlich wie die Unterzeichner des offenen Briefs – dass es wie bei Biowaffen, Atomkraft und Gentechnik Leitplanken für den Wandel braucht.
Der KI-Markt ist Milliarden schwer
Twitter-Chef Musk hatte ursprünglich das KI-Start-up OpenAI, welches GPT-4 entwickelt hat, als gemeinnützige Organisation mitbegründet. Er zog sich dann aber zurück, nachdem sich OpenAI-Chef Sam Altman mit seinen Plänen durchgesetzt hatte, die Entwicklung der KI-Software durch großangelegte finanzielle und technische Kooperationen vor allem mit Microsoft voranzutreiben.
In dem Markt mit der künstlichen Intelligenz steckt ohnehin großes, finanzielles Potenzial. Die Unternehmensberatung PricewaterhouseCoopers (PwC) schätzt, dass mit dem Durchbruch der neuen Technologie die Weltwirtschaft bis 2030 um 15 Billionen US-Dollar angekurbelt werden könnte.
Seit der Veröffentlichung von ChatGPT im vergangenen November steht das Thema "Künstliche Intelligenz" im Fokus der Öffentlichkeit. Google sah sich gezwungen, seinen eher restriktiven Kurs bei der Veröffentlichung von KI-Tools aufzugeben und konterte mit dem eigenen Chat-Roboter Bard die Offensive von OpenAI.
Auch bei den Nutzern kam das von OpenAI entwickelte Programm ChatGPT gut an. Nach nicht einmal fünf Tagen hatten sich bereits eine Million Menschen angemeldet. Inzwischen sind es über 100 Millionen. Im Vergleich: Netflix brauchte für eine Million Nutzer rund zweieinhalb Jahre.
In Deutschland und Europa hat man die Risiken von KI erkannt
In Deutschland begrüßte der TÜV-Verband den offenen Brief. "Der Appell zeigt den politischen Handlungsbedarf für eine klare gesetzliche Regulierung Künstlicher Intelligenz", erklärte Joachim Bühler, Geschäftsführer des TÜV-Verbands. Nur so könne man die Risiken besonders leistungsfähiger KI-Systeme in den Griff bekommen.
Die Expertinnen und Experten warnten vor einer Flut von Propaganda und Fake News, der Vernichtung vieler Arbeitsplätze und einem generellen Kontrollverlust, betonte Bühler. "Gleichzeitig ist klar, dass KI-Systeme verstärkt in der Medizin, in Fahrzeugen oder anderen sicherheitskritischen Bereichen eingesetzt werden. Fehlfunktionen können fatale Folgen haben." In diesen Bereichen seien rechtliche Leitplanken nötig. "Das schafft Vertrauen und fördert innovative Angebote, statt sie auszubremsen."
In der EU will man mit dem Artificial Intelligence Act bis 2024 erste Rahmen für die KI setzen, ohne jedoch den Fortschritt abzuwürgen. Es wird unter anderem gefordert, dass die verwendeten Algorithmen offengelegt werden. Beim "RND" heißt es weiter, „wer die KI beherrscht, beherrscht die Welt“, sagt zum Beispiel einer, dem man derlei Verantwortung nun wahrlich nicht in die Hände legen möchte: Wladimir Putin.
Auch Europol warnt vor einem möglichen Missbrauch von KI. Sie sehen die Möglichkeit, dass die Technik für Phishingversuche, zur Streuung von Desinformationen und Cyberkriminalität genutzt werden könnte.
Ob der offene Brief Erfolg haben wird, bleibt abzuwarten. Zunächst gab es beispielsweise von OpenAI noch keine Antwort darauf. Bedenklich ist allerdings, dass der Geldgeber Microsoft bis Ende des Monats rund 10.000 Stellen streichen will – darunter laut dem Magazin "Platformer" auch das vollständige "ethics and society"-Team. Eben jenes Team, dass sich mit ethischen Grundregeln der Programmierung beschäftigen sollte. Eines ihrer Aufgabengebiete: "Soziale Schäden" durch Entwicklung von künstlicher Intelligenz zu verringern.
Verwendete Quellen:
- Mit Material der dpa
- Offener Brief des Instituts "future of life": "Pause Giant AI Experiments: An Open Letter"
- RND: „Drohende Katastrophe“: Elon Musk und Hunderte Forscher fordern „Denkpause“ für künstliche Intelligenz
- Platformer: Microsoft just laid off one of its responsible AI teams
- Golem: "Funken von allgemeiner künstlicher Intelligenz"
