The A.I. Dilemma

Vortrag von Tristan Harris und Aza Raskin am 9. März 2023. Center for Humane Technology.

The AI Dilemma. 

Tristan Harris und Aza Raskin warnen, dass KIs schon jetzt Risiken bergen und Firmen zu schnell und unsicher handeln. Sie fragen, wie wir uns auf eine Zukunft mit KI vorbereiten können.. 

Dieser Vortrag hat uns zunächst einen gehörigen Schrecken eingejagt. Einer unserer ersten Teilnehmer bei ‚Agency in AI‘ hat uns jedoch darauf aufmerksam gemacht, dass genau dies Teil eines systemerhaltenden Narrativs ist: Zuerst ein Schreckensszenario an die Wand malen, das so gewaltig ist, dass man sich nicht mit den eigentlichen Problemen der Technologien auseinandersetzt – wie Arbeitsbedingungen oder die Verfestigung monopolistischer Machtstrukturen. Bedenkenswert. Bildet euch selbst ein Urteil.

Zusammenfassung:

KI-Forscher schätzen das Risiko, dass unkontrollierte KI zum Aussterben der Menschheit führt, auf über 10%.

Die Entwicklung und Integration von KI erfordern strenge Aufsicht, ähnlich den Lehren aus dem Manhattan-Projekt. Der erste Kontakt mit KI, durch soziale Medien, brachte Sucht und Desinformation; der zweite könnte schwerwiegendere Folgen haben. Neue KI-Engines, die verschiedene Disziplinen vereinen, beschleunigen den Fortschritt dramatisch.

Gleichzeitig schreitet die Fähigkeit der KI voran, Gedanken und Träume zu interpretieren. Überwachung und Deepfake-Technologie eröffnen neue Überwachungsmöglichkeiten, während inhaltsbasierte Verifizierungssysteme unter dem Druck der fortschreitenden Technologie zusammenbrechen könnten, was Sicherheitsrisiken erhöht.