О том, что искусственный интеллект уничтожит человечество всерьез говорить не принято. Так, на сегодняшний день нет никаких доказательств того, что нейросети способны обрести сознание и перестроить мир под себя. Но почему, в таком случае, глава SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и более 1000 экспертов, включая нескольких лауреатов Нобелевской премии по вычислительной технике, подписали открытое письмо с требованием приостановить разработку ИИ-систем, более мощных, чем GPT-4? Что именно в этих интеллектуальных системах беспокоит экспертов? Возможный ответ на этот вопрос можно найти в статье Элиезера Юдковского – специалиста по искусственному интеллекту, которого нет среди подписантов. «Я воздержался от подписи, так как считаю, что в письме преуменьшается серьезность ситуации, а указанные требования слишком малы для ее разрешения», – утверждает ученый. Но почему?
Американский специалист в области искусственного интеллекта Элиезер Юдковский считает, что человечество обречено
Кто такой Элиезер Юдковский?
Прежде чем рассмотреть мнение Юдковского, отметим, что результаты последних исследований не выявили никаких признаков наличия сознания у ИИ-систем. Более того, один из величайших интеллектуалов современности, лингвист Ноам Хомски всячески отрицает саму возможность того, что нейросети, подобные ChtGPT, когда-либо станут умнее людей. К слову, аргументов у сторонников этой точки зрения немало (и они убедительные).
Оппонентом Хомски и других исследователей, не считающих ИИ угрозой, выступает Юдковский. Он убежден, что человечеству грозит вымирание в ближайшие годы или десятилетия из-за неуправляемого сверхразумного искусственного интеллекта. Он также предсказывает, что исчезновение нашей цивилизации произойдет «по умолчанию», так как настройка ИИ настолько сложна, что справиться с ней никому не под силу.