Знает ли Сэм Альтман, что он создает?

Амбициозное, гениальное и устрашающее стремление генерального директора OpenAI создать новую форму интеллекта

Послушайте эту статью

00:00

1:16:18

Слушайте больше историй на Curio

Апрельским утром понедельника Сэм Альтман сидел в штаб-квартире OpenAI в Сан-Франциско и рассказывал мне об опасном искусственном интеллекте, который его компания создала, но так и не выпустила. Его сотрудники, как он позже сказал, часто теряют сон, беспокоясь об ИИ, которые они могут однажды выпустить, не осознавая полностью их опасности. Поставив пятку на край вращающегося кресла, он выглядел расслабленным. Мощный искусственный интеллект, который его компания выпустила в ноябре, захватил воображение всего мира, как ничто в новейшей истории технологий. В некоторых кругах раздавались недовольства по поводу того, что ChatGPT пока не может делать хорошо, а в других — по поводу будущего, которое это может предвещать, но Альтмана это не волновало; для него это был момент триумфа.

Узнайте больше из этого выпуска и найдите следующую историю для чтения.

В небольших дозах большие голубые глаза Альтмана излучают луч серьезного интеллектуального внимания, и он, кажется, понимает, что в больших дозах их интенсивность может выбить из колеи. В данном случае он был готов рискнуть: он хотел, чтобы я знал, что какими бы ни были конечные риски ИИ, он не сожалеет о том, что выпустил ChatGPT в мир. Напротив, он считает, что это была великая общественная услуга.

«Мы могли бы просто построить это в нашем здании еще пять лет, — сказал он, — и у нас было бы что-то потрясающее». Но общественность не смогла бы подготовиться к последовавшим за этим потрясениям, исходу которого он считает «глубоко неприятным представить». Альтман считает, что людям нужно время, чтобы осознать идею о том, что вскоре мы можем разделить Землю с мощным новым разумом, прежде чем он изменит все, от работы до человеческих отношений. ChatGPT был способом вручения уведомлений.

В 2015 году Альтман, Илон Маск и несколько видных исследователей искусственного интеллекта основали OpenAI, поскольку считали, что общий искусственный интеллект — нечто столь же интеллектуально способное, скажем, как у типичного выпускника колледжа — наконец-то стал доступен. Они хотели достичь этого, и даже больше: они хотели призвать в мир сверхразум, интеллект, значительно превосходящий интеллект любого человека. И хотя крупная технологическая компания могла бы безрассудно броситься туда первой в своих целях, они хотели сделать это безопасно, «на благо человечества в целом». Они структурировали OpenAI как некоммерческую организацию, «не ограниченную необходимостью получения финансовой отдачи», и пообещали проводить свои исследования прозрачно. Не было бы возможности вернуться в сверхсекретную лабораторию в пустыне Нью-Мексико.

Эта статья была опубликована в информационном бюллетене One Story to Read Today, в котором наши редакторы рекомендуют одну обязательную к прочтению статью из журнала The Atlantic с понедельника по пятницу. Зарегистрируйтесь здесь.

В течение многих лет общественность мало что слышала об OpenAI. Когда Альтман стал генеральным директором в 2019 году, как сообщается, после борьбы за власть с Маском, это была едва ли не история. OpenAI опубликовала статьи, в том числе в том же году о новом ИИ. Это привлекло полное внимание технологического сообщества Кремниевой долины, но потенциал технологии не был очевиден широкой публике до прошлого года, когда люди начали экспериментировать с ChatGPT.

Движок, на котором сейчас работает ChatGPT, называется GPT-4. Альтман описал мне это как инопланетный разум. Многие чувствовали то же самое, наблюдая, как он разматывает ясные эссе с отрывистыми всплесками и короткими паузами, которые (по замыслу) вызывают созерцание в реальном времени. За несколько месяцев своего существования он предложил новые рецепты коктейлей в соответствии с собственной теорией вкусовых сочетаний; написал бесчисленное количество студенческих работ, повергнув преподавателей в отчаяние; писал стихи в разных стилях, иногда хорошо, всегда быстро; и сдал единый экзамен на адвоката. Он допускает фактические ошибки, но очаровательно признает свою неправоту. Альтман до сих пор помнит, где он впервые увидел, как GPT-4 пишет сложный компьютерный код, для чего он явно не был предназначен. «Это было что-то вроде: «Вот и мы», — сказал он.