Головний науковець OpenAI пропонував збудувати бункер перед запуском AGI

У серії інтерв’ю для The Atlantic журналістка Карен Хао, яка готує книгу про невдалу спробу звільнення генерального директора OpenAI Сема Альтмана восени 2023 року, розповіла про деякі незвичайні ідеї одного з головних архітекторів штучного інтелекту — Іллі Суцкевера. Зокрема, стало відомо, що тодішній головний науковець OpenAI пропонував збудувати бункер перед запуском системи штучного загального інтелекту (AGI).

AGI — це гіпотетичний рівень розвитку ШІ, за якого система зможе виконувати будь-яке завдання, яке виконує людина, з рівнем інтелекту, що дорівнює або перевершує людський.

І хоча точне визначення AGI залишається нечітким, Ілля Суцкевер, один із засновників OpenAI, був переконаний у його неминучому настанні — з усіма потенційно катастрофічними наслідками.

Під час закритої зустрічі влітку 2023 року, Суцкевер заявив, що перед запуском AGI компанія має побудувати бункер. Один із дослідників, присутніх на нараді, перепитав, чи він справді має на увазі фізичне укриття. Відповідь Суцкевера була лаконічною:

“Ми точно побудуємо бункер перед запуском AGI. Звісно, вхід буде необов’язковим”.

Цей епізод, підтверджений кількома джерелами, ілюструє глибоку віру частини керівництва OpenAI в те, що технології, які вони створюють, матимуть епохальні наслідки — можливо аж до потреби фізичного захисту.

Один із колег Суцкевера, який також розмовляв із Карен Хао, розповів, що для деяких членів команди AGI асоціюється з майже містичним явищем:

“Є група людей — Ілля серед них — які вірять, що побудова AGI призведе до раптури. Буквально, до раптури”.

Раптура — це вірування, що перед кінцем світу віряни будуть підняті на небо, щоби уникнути періоду страждань і суду. В цьому випадку — це ідея, що AGI може трансформувати людську цивілізацію так радикально, що межа між технологією і духовністю стирається.

Суцкевер почав також висловлювати занепокоєння щодо того, як саме OpenAI управляє цими технологіями. Це привело його до участі в спробі відсторонити Сема Альтмана з посади генерального директора — спроби, яка зазнала поразки і в результаті завершилась відходом самого Суцкевера з компанії.

Цікаво, що серед працівників OpenAI ця подія отримала неофіційну назву — “Збій” (“The Blip”) — і вважається одним із найгучніших епізодів в історії компанії.