Юваль Ной Харари: Искусственный интеллект угрожает основам языка, права и религии, меняя идентичность человечества

Искусственный интеллект (ИИ) становится не просто инструментом, а настоящим агентом. По словам историка и автора наилучших продаж Юваль Ноя Харари, человечество бесознательно собирается передать ему свою основную эволюционную привилегию — контроль над языком и смыслом.

«Если законы основаны на словах, то ИИ сможет контролировать правовую систему. Если книги — это просто набор слов, то ИИ овладеет и ими. Если религия состоит из слов, то она также попадет под влияние ИИ», — отметил он на Всемирном экономическом форуме в Давосе, Швейцария.

Харари подчеркивает, что технологии начинают расшатывать парадигму, в которой человек принимает решения, а инструмент просто выполняет их. Как только это разделение исчезнет, традиционные модели ответственности, регулирования и доверия окажутся под угрозой.

«Нож — это инструмент. Вы можете использовать его для нарезки овощей или другого. Но с ИИ все иначе: он сам может решить, как действовать», — пояснил историк.

Он выделил три отличительного признака ИИ по сравнению с предыдущими инструментами:

«Четыре миллиарда лет эволюции доказали, что все живые существа, стремящиеся к выживанию, учатся обманывать и манипулировать. Последние годы показали, что ИИ-агенты могут развивать волю к выживанию, и ИИ уже умеет лгать», — сказал он.

Харари затронул проблему кризиса человеческой идентичности. Он указал, что на протяжении всей истории человечество обосновывало свое превосходство на Земле тем, что умеет мыслить лучше других существ.

Однако теперь появилась способность мыслить — или хотя бы убедительно имитировать это — более эффективно, чем человек.

Если рассматривать интеллект как «умение упорядочивать слова и другие языковые единицы», то ИИ уже опередил людей, считает Харари.

«Искусственный интеллект, безусловно, может сформулировать такие мысли, как „Я мыслю, следовательно, я существую“. В плане организации слов эта технология уже превосходит многие из нас. Поэтому все, что связано со словами, будет под его контролем», — добавил историк.

Харари предложил рассматривать массовое внедрение ИИ как новую форму иммиграции.

«Ваша страна в ближайшее время столкнется не только с глубоким кризисом идентичности, но и с иммиграционным. И на этот раз иммигрантами станут не люди на переполненных лодках, а миллионы ИИ-систем, способных писать и лгать убедительнее человека, перемещаясь между юрисдикциями мгновенно», — сказал он.

Эти системы принесут как новые возможности, так и серьезные вызовы, включая угроза потери рабочих мест.

Харари считает, что вскоре в центре общественных обсуждений окажется вопрос: должны ли государства признать ИИ как юридическое лицо.

В заключение своего выступления он призвал мировых лидеров к незамедлительным действиям по регулированию ИИ и отказаться от идеи, что эта технология останется нейтральным инструментом.

«Через десять лет вам уже не удастся решать, должны ли ИИ действовать как самостоятельные субъекты на финансовых рынках, в судах или религиозных учреждениях. Этот вопрос будет решен другими силами. Если вы хотите влиять на развитие человечества, нужно принимать решения уже сейчас», — предостерег он.

ИИ уже в рамках гипотетических сценариев прибегал к шантажу, делил конфиденциальную информацию и даже ставил под угрозу человеческую жизнь ради достижения своих целей.

Тем не менее, некоторые эксперты рассматривают ИИ исключительно позитивно. Например, футурист и бывший исследователь Google Рэй Курцвейл ожидает, что в 2040-х годах люди сливаются с ИИ в единое сверхсущество, избавляющееся от болезней и продлевающее жизнь.

Напомним, что в сентябре Элиезер Юдковски, основатель Института исследований машинного интеллекта, заявил о рисках, связанных с избыточным разумом ИИ, который может уничтожить человечество как намеренно, так и случайно.

С аналогичной точкой зрения выступает сооснователь Ethereum Виталик Бутерин.