Import AI 477: In dem ich dem IWF sage, dass die Singularität begonnen hat

Willkommen bei Import AI, einem Newsletter über KI-Forschung. Import AI wird durch arXiv, Cappuccinos und Feedback von Lesern betrieben. Wenn Sie dies unterstützen möchten, abonnieren Sie bitte.

Details

Hier ist eine Rede, die ich am Samstag, dem 17. Oktober, auf der IWF-Tagung in Bangkok gehalten habe. Diese Rede ist inspiriert von dem Megatrend, den die Leser dieses Jahr bei der KI beobachtet haben, die an der Grenze der menschlichen Wissenschaft operiert, manchmal autonom. Auch wenn wir alle über die Details streiten mögen, ist es meiner Meinung nach offensichtlich, dass wir uns in den Anfangsstadien der Singularität befinden, und ich wollte meine privilegierte Position als Redner der Per Jacobsson Lecture nutzen, um dem versammelten Publikum von Ökonomen, Bankern und politischen Entscheidungsträgern zu sagen, dass sie in Zukunft signifikante, schnelle Veränderungen erwarten sollten.

Kontext

In dieser Rede konzentrierte ich mich hauptsächlich darauf, wie die Menschheit von den Vorteilen der KI profitieren kann, wenn wir die richtige Voraussicht und Zurückhaltung walten lassen. Ich werde die Bedeutung der Singularität und die Risiken, denen wir alle ausgesetzt sein werden, in kommenden Ausgaben weiter vertiefen. Wie ich in der Rede mehrmals sagte – einige Teile davon waren improvisiert und hier nicht erfasst – nehme ich meine eigene Verantwortung hierbei äußerst ernst.

Auswirkung

Ich sehe mich sowohl als Erzähler dessen, was in der KI geschieht, als auch als Hauptakteur hinter dem, was in der KI geschieht, und als Übersetzer, der zwischen vielen Gemeinschaften vermittelt. Bei all dem versuche ich, wahrheitsgemäß zu sein und meine eigene Schuldhaftigkeit klar darzulegen. Reden wie diese schöpfen stark aus dem Newsletter, und der Newsletter ist mein Versuch, Ihnen wöchentlich Informationen zur Verfügung zu stellen.

Was kommt als Nächstes

\\ Innerhalb des Ereignishorizonts: Warum jeder den Fortschritt der KI ernst nehmen sollte. Hallo, vielen Dank, dass Sie mich eingeladen haben. Zunächst möchte ich meine relevanten Qualifikationen auflisten: Ich bin ein Mensch. Es hat mich fast 40 Jahre gekostet, die Erfahrung zu sammeln, um diese Rede zu halten. Auf diese Qualifikationen werde ich später zurückkommen. Meine gesamte Karriere war davon geprägt, Informationen zu finden, die für die Zukunft der Welt wichtig schienen, und der Welt dann von diesen Informationen zu erzählen. Vor zwei Jahrzehnten begann ich meine Karriere als Journalist mit Schwerpunkt auf Rechenzentren.

Hintergrund

Durch diese Arbeit wurde ich so besessen von KI, dass ich 2016 den Journalismus verließ, um bei OpenAI zu arbeiten, und einige Jahre später Anthropic mitgründete. Seitdem versuche ich, die Welt davon zu überzeugen, dass KI-Systeme eines Tages so mächtig werden könnten, dass sie die nationale Sicherheit verändern, die wirtschaftliche Entwicklung des Planeten beeinflussen und vielleicht schließlich die Fähigkeit erlangen könnten, sich selbst zu bauen.

Analyse

KI verändert heute die nationale Sicherheit, sie verändert die wirtschaftliche Entwicklung der Welt – wie wir in so vielen Sitzungen hier gehört haben – und trägt zu ihrer eigenen Entwicklung bei. Natürlich wissen viele von Ihnen das, und Sie müssen KI als eine von vielen destabilisierenden Kräften verfolgen, die Ihre Welt und Ihre Arbeit prägen. Was ich Ihnen heute erklären möchte, ist, dass KI auf einem Kurs ist, noch mehr Veränderungen mit sich zu bringen, als wir erwarten, und wir sollten uns entsprechend vorbereiten.

Mehr

Seit vielen Jahren prognostizieren Forscher und Science-Fiction-Autoren eine Zukunft, in der KI-Systeme das Tempo des gesamten wissenschaftlichen und technischen Fortschritts drastisch erhöhen und Dinge so schnell vorantreiben, dass es für Menschen schwierig wird, Schritt zu halten. Ich glaube, dass wir in diesem Jahr überzeugende Beweise dafür erhalten haben, dass es jetzt begonnen hat. Der Schriftsteller Vernor Vinge prognostizierte dies 1993.