«Выдумка и нездоровый заговор». Трамп отвергает ужесточение контроля над ИИ, боясь проиграть гонку Китаю

Президент США Дональд Трамп назвал выдумкой опасения по поводу безопасности искусственного интеллекта и раскритиковал призывы к введению дополнительных ограничений для этой стремительно развивающейся отрасли.

Заявление прозвучало после того, как сооснователь одного из крупнейших разработчиков ИИ, компании Anthropic Джек Кларк заявил Би-би-си, что отрасли, возможно, потребуется обязательный «аварийный выключатель» (так называемый kill switch) для потенциально опасных систем искусственного интеллекта с возможностью проверки третьей, независимой стороной.

Высказывание Кларка последовало за серией предупреждений о потенциальных угрозах ИИ для человечества, с которыми в последние дни выступили руководители и сотрудники нескольких ведущих технологических компаний.

Эти опасения в понедельник спровоцировали распродажу акций ряда таких компаний: инвесторы начали оценивать возможные последствия замедления темпов разработки и внедрения искусственного интеллекта.

Трамп отрицает риски ИИ

В серии публикаций в социальных сетях в понедельник президент США сравнил предупреждения об опасности искусственного интеллекта с «аферой с глобальным потеплением», которую, по его словам, продвигают «радикальные левые демократы» — причем слово Democrats Трамп намеренно исказил как Dumocrats, обыграв английское dumb («глупый»).

Кроме того, Трамп назвал себя «главным разоблачителем фейков» (the Hoax Buster) и приравнял тревогу относительно безопасности ИИ к «байкам про РОССИЮ, РОССИЮ, РОССИЮ».

В другом посте он написал: «Против ИИ и центров обработки данных плетется НЕЗДОРОВЫЙ заговор, и единственный, кто этому рад, — это Китай. КТО ПОБЕДИТ В ИИ, ПОБЕДИТ ВО ВСЕМ!»

В понедельник Трамп заявил, что единственная защита, которая необходима в сфере искусственного интеллекта, — это «сильный и умный» президент.

В тот же день китайские государственные СМИ сообщили, что, по мнению экспертов, «растущая тревога Вашингтона по поводу стремительного развития искусственного интеллекта в Китае все нагляднее показывает его политические приоритеты».

«Они понимают, что Китай превратился в серьезного конкурента в сфере ИИ, и опасаются, что если США замедлят разработки или ужесточат регулирование, Китай сможет догнать их еще быстрее», — заявил Global Times профессор американистики Фуданьского университета Синь Цян.

Кларк, один из семи основателей Anthropic, заявил в понедельник, что способ полного отключения программного обеспечения ИИ в том случае, если оно станет слишком опасным, — это то, «для чего обществу в конечном итоге, возможно, стоит принять нормативные правила».

По его словам, у большинства ведущих ИИ-компаний, включая Anthropic, уже существуют различные способы «выдернуть вилку из розетки», то есть экстренно остановить работу системы. Однако Кларк считает, что законодателям, возможно, придется сделать наличие такого механизма обязательным.

Хайп ради прибылей?

Заявления Кларка стоят в одном ряду со многими высказываниями представителей технологической индустрии и политиков, призывающих усилить меры безопасности в сфере искусственного интеллекта.

В понедельник Microsoft AI стала очередной крупной компанией, заговорившей о необходимости ограничивать возможности разрабатываемых ею моделей. Компания опубликовала программный документ, в котором изложила концепцию так называемого «гуманистического ИИ» (humanist AI).

Глава Microsoft AI Мустафа Сулейман рассказал телеканалу CNBC, что компания работала над новыми принципами несколько месяцев, однако решила опубликовать их именно сейчас на фоне развернувшейся дискуссии о рисках искусственного интеллекта.

Однако некоторые представители индустрии ИИ считают, что опасения по поводу возможного уничтожения искусственным ителлектом человечества сильно преувеличены — или даже намеренно раздуваются, чтобы поддерживать ажиотаж вокруг технологии.

Клеман Деланг, глава платформы для разработчиков Hugging Face, которая подверглась атаке ботов OpenAI, на прошлой неделе написал: «Извините, но спрашивать Джейкоба [Коксона] о риске вымирания человечества из-за ИИ — это все равно что спрашивать мастера по кондиционерам об изменении климата».

«Я не говорю, что его мнение обязательно неинтересно или ошибочно само по себе, но давайте все же сохранять чувство меры», — добавил он.

Глава Grindr Джордж Арисон тоже заявил, что ИИ-компании используют распространяющиеся опасения вокруг технологии в интересах собственных бизнес-стратегий.

Anthropic, которую оценили в 965 млрд долларов, готовится к первичному публичному размещению акций (IPO), после которого инвесторы смогут покупать акции компании на фондовом рынке.

OpenAI, последняя оценка которой составила 852 млрд долларов, как ожидалось, также собиралась выйти на биржу. Однако в пятницу глава компании Сэм Альтман заявил, что в этом году IPO не состоится из-за развернувшейся дискуссии вокруг рисков, которые несет развитие искусственного интеллекта.

По мнению главы Grindr Джорджа Арисона, столь высокие оценки ИИ-компаний можно оправдать только заявлениями о том, что технология в конечном счете проникнет практически во все сферы экономики и заменит значительную часть человеческого труда.

«Единственный способ оправдать такие оценки — фактически заявить: „Я захвачу все отрасли, я заберу все рабочие места, и всю эту работу будет выполнять мой искусственный интеллект“», — сказал Арисон.

Масштаб дискуссии в США

О том, насколько быстро вопросы безопасности ИИ вышли на первый план общественной дискуссии в США, говорит и необычный политический союз: две известные фигуры, находящиеся на противоположных флангах американской политики, собираются выступить на одной площадке с призывом пересмотреть подход к регулированию искусственного интеллекта.

Бывший главный стратег Дональда Трампа Стив Бэннон и сенатор-ветеран, один из наиболее известных представителей американских левых Берни Сандерс во вторник должны выступить в Вашингтоне на мероприятии Pro-Human Assembly («Ассамблея в защиту человека»).

По словам организаторов, встреча призвана «сформулировать общее видение и предложить лучший, в большей степени ориентированный на человека путь развития искусственного интеллекта».

На прошлой неделе Сандерс заявил в программе BBC Newsnight, что «необходимо немедленно что-то предпринять, чтобы остановить неконтролируемое развитие искусственного интеллекта».

«Существует экзистенциальная угроза — вероятность того, что человечество может быть уничтожено», — сказал сенатор.

Дискуссия о потенциальных опасностях ИИ резко обострилась в последние дни после того, как в социальных сетях широко разошлась публикация Джейкоба Коксона, исследователя, покинувшего Anthropic из-за опасений, что развитие ИИ может привести к уничтожению человечества.

Вслед за этим исследователь Anthropic Эван Хубингер заявил, что оценивает вероятность того, что искусственный интеллект приведет к вымиранию человечества «в течение ближайшего десятилетия», более чем в 10%.

В минувшие выходные глава Anthropic Дарио Амодеи вновь призвал замедлить темпы развития искусственного интеллекта и установить более строгий контроль за разработками. Компания и раньше выступала с подобными предложениями, хотя некоторые критики ставят под сомнение мотивы, которыми она при этом руководствуется.

Одновременно Амодеи подчеркнул, что любые меры по ограничению развития ИИ должны приниматься «без ущерба для коммерческих преимуществ».

Руководители двух конкурирующих компаний — Сэм Альтман из OpenAI и Илон Маск из xAI — также заявили, что поддерживают предложение Амодеи о согласованном замедлении разработок во всей отрасли и введении регулирования, а также о независимом контроле за созданием новых моделей искусственного интеллекта.