Эрик Шмидт о рисках ИИ: технологии могут стать оружием в руках злоумышленников

Эрик Шмидт, бывший генеральный директор Google, подчеркнул серьезные риски, связанные с искусственным интеллектом, включая его уязвимость к кибератакам, как сообщает CNBC.

«Существует ли угроза распространения ИИ? Безусловно. Риски возникают из-за возможности того, что технологии могут оказаться в руках злонамеренных личностей, способных использовать их во вред», — отметил он на конференции Sifted Summit.

Шмидт также обратил внимание на то, что как открытые, так и закрытые модели могут быть взломаны, что ведет к утрате защитных барьеров.

«Во время обучения нейросети получают обширные знания, включая способы навредить людям», — добавил он.

Кроме того, он отметил, что нет действенного аналога “режима нераспространения”, подобного ядерному, который мог бы эффективно контролировать угрозы, исходящие от искусственного интеллекта.

Несмотря на эти тревожные замечания, экс-глава Google выразил уверенность в потенциале технологий, считая их на данный момент недооцененными.

«Я совместно с Генри Киссинджером написал две книги перед его кончиной, и мы пришли к заключению, что появление некоего инопланетного интеллекта, который существует вне человеческого контроля, станет значимым событием для цивилизации. Люди привыкли к своему верховенству в эволюции. И на данный момент эта идея подтверждается: способности таких систем со временем могут превзойти человеческие», — добавил он.

Шмидт также отметил, что серия GPT, culminирующая в ChatGPT, продемонстрировала мощь и потенциал современных технологий.

Эти комментарии были сделаны на фоне дискуссий о пузыре в индустрии ИИ. Однако он отверг возможность такого кризиса.

«Я сомневаюсь, что это произойдет, хотя не являюсь экспертом в инвестициях. Но я уверен в одном: люди, вкладывающие свои средства, убеждены в значительной долгосрочной доходности. Иначе зачем бы они рисковали?» — заключил он.

Напомним, что в августе CEO OpenAI Сэм Альтман заявил, что рынок ИИ находится в состоянии пузыря.