Elon Musk drängte darauf, große Experimente mit KI auszusetzen
Verschiedenes / / April 03, 2023
Dabei wurde er von führenden Industrieforschern unterstützt.
Die gemeinnützige Organisation Future of Life Institute hat einen offenen Brief veröffentlicht, der von Elon Musk, Mitbegründer von Apple, unterzeichnet wurde Steve Wozniak, Skype-Mitbegründer Jaan Tallinn sowie andere KI-Forscher und Führungskräfte großer Unternehmen.
In dem Schreiben wird behauptet, dass die Labors in einem „außer Kontrolle geratenen Wettlauf“ um Entwicklung und Anwendung gefangen sind maschinelle Lernsysteme, die „niemand – nicht einmal ihre Ersteller – verstehen, vorhersagen oder sicher sein können Kontrolle". Hier ist, was die Autoren vorschlagen:
Wir fordern alle KI-Labore auf, das Training auf KI-Systemen größer als GPT-4 unverzüglich für mindestens 6 Monate auszusetzen. Die Einstellung des Betriebs muss öffentlich und überprüfbar sein, und alle wichtigen Akteure müssen einbezogen werden. Wenn ein Innehalten in naher Zukunft nicht möglich ist, sollten die Regierungen der Länder eingreifen und ein Moratorium verhängen.
Aus Pause Giant AI Experiments: Ein offener Brief
Der Brief drückt auch die Unzufriedenheit mit der Position „Wir werden es so veröffentlichen, wie es ist, wir werden es später reparieren“ bei der Entwicklung neuronaler Netze aus (denken Sie zumindest daran Barde von Google). Selbst KI öffnen hat bereits den potenziellen Bedarf an zukünftigen KI-Sicherheitsaudits angesprochen. Die Verfasser des Briefes glauben, dass diese Zukunft bereits angekommen ist.
KI-Entwickler und unabhängige Experten sollten diese Pause nutzen, um gemeinsam zu entwickeln und umzusetzen einheitliche Sicherheitsprotokolle für komplexe KI-Systeme, deren Einhaltung extern und unabhängig überprüft wird Experten. Solche Protokolle tragen dazu bei sicherzustellen, dass die Systeme sicher genug sind, um sie zu verwenden.
Aus Pause Giant AI Experiments: Ein offener Brief
Der vollständige Text des Schreibens kann gelesen werden Hier.
Lesen Sie auch🧐
- So verwenden Sie ChatGPT in Telegram und erhalten schnell Antworten auf alle Fragen ohne Browser
- So verwenden Sie GPTZero, ein von ChatGPT erstelltes Textsuchtool
- "ChatGPT wird die Arbeit eines Spezialisten nicht ersetzen": ein Interview mit Web 3.0-Experte Stas Ustenko