Нам потрібно пригальмувати зі ШІ без участі людей, каже співзасновник Anthropic

Співзасновник Anthropic Джек Кларк закликав уповільненнярозвитку штучного інтелекту (ШІ), і попередив, що технологія наближається до точки, де вона зможе розвиватися без участі людини.

"Хотілося б мати можливість зняти ногу з газу та натиснути на гальма, — сказав Кларк BBC Newsnight. - Зараз все виглядає так, ніби в індустрії ШІ є педаль газу, але немає гальм".

Він наголосив, що люди повинні контролювати системи ШІ, які стануть лише потужнішими та матимуть ширший вплив на суспільство, через державну політику.

"Світу треба трохи подумати, і нам потрібно зрештою розробити нові правила, які дозволять нам бути впевненими в цих системах", — заявив засновник одного із лідерів у галузі розробки систем ШІ.

Популярний чат-бот Anthropic під назвою Claude вже працює на коді, 80% якого система написала сама. За словами Кларка, досягти 100% можливо впродовж лише двох років, і це "матиме величезні наслідки".

Кларк не уточнив, як можна створити "педаль гальма" для досліджень і розробок у галузі штучного інтелекту, але провів паралель між ШІ, нафтовим бумом і олігархами початку минулого століття.

"Реакцією суспільства було розробити розумну політичну та регуляторну базу, яка б дала людям впевненість у нафті та перевагах, які нафта може принести світові, і означала б, що вам не доведеться турбуватися про особисті якості людей, які керують компаніями, — сказав Кларк. - Ми прийшли до того самого".

Привертання уваги чи бажання попередити світ?

Попри цю позицію свого засновника, цього тижня Anthropic привітала виконавчий указ президента США Дональда Трампа щодо штучного інтелекту, який мав відносно вільні вказівки щодо компаній. Зокрема, там немає вимоги до компаній, що розробляють системи ШІ, проходити урядові випробування на безпеку, - це залишається добровільною справою. Великі компанії-розробники ШІ, які прагнуть розвитку технології, включно із Anthropic, OpenAI та Google, також не заявили, що призупинять власні дослідження.

Як бізнес Anthropic так швидко зросла з моменту свого заснування п'ять років тому, що готується дебютувати на публічному фондовому ринку.

Це може стати одним із перших публічних лістингів (вихід на фондовий ринок та випуск акцій - Ред.) нової компанії, що розробляє технології ШІ, та одним із найцінніших лістингів акцій в історії, оскільки приватні інвестори оцінюють вартість Anthropic майже в 1 трлн доларів.

Говорячи з ВВС, Кларк запевнив, що мотивація Anthropic публічно обговорювати зростаючі можливості технології штучного інтелекту не полягає в тому, щоб ще більше покращити свою репутацію серед платоспроможних клієнтів.

Він просто хоче "розповісти світові, що ми бачимо всередині цих компаній з цією незвичайною технологією".

"Я хвилююся за своїх дітей"

З моменту свого заснування генеральним директором Даріо Амодеї, Кларком та кількома іншими керівниками, Anthropic позиціонує себе як компанію, яка є відвертою щодо потенційних ризиків, пов'язаних зі штучним інтелектом. Компанія навіть вступила в публічну суперечку з міністерством оборони США через побоювання, що розробені нею інструменти штучного інтелекту будуть використані для масового спостереження за американцями та автономної війни.

"Я хвилююся за своїх дітей, якщо ми як суспільство не проведемо серйозної розмови про те, що означають наслідки подальшого розвитку штучного інтелекту, — сказав Кларк Newsnight. - Є потенційно великі переваги. Є також ризики".

Кларк додав, що одним із ризиків є наслідки для економіки, оскільки існують побоювання, що технології штучного інтелекту, такі як "агенти" — по суті, окремі боти на базі штучного інтелекту, які виконують рутинні завдання певною мірою автономно, можуть перебрати на себе виконання певних робіт, а відтак, забрати робочі місця живих людей.

Впродовж останнього року великі технологічні компанії вже провели масові звільнення, часто посилаючись на зростаючу здатність інструментів штучного інтелекту виконувати роботу сотень або навіть тисяч інженерів-програмістів.

Кларк сказав, що люди, які є більш креативними та мають більше кращих ідей, насправді можуть мати перевагу над технологіями штучного інтелекту.

"Існують відкриті питання щодо того, чи можуть системи штучного інтелекту бути справді креативними… поки що немає справжніх доказів цього, – додав він. - В Anthropic ми зараз обмежені більше здатністю генерувати хороші ідеї, ніж здатністю займатися інженерією, щоб втілити ці ідеї в реальність".

Тим не менш, Кларк порадив молодій людині, яка може відчувати, що економіка, побудована на штучному інтелекті, не має для неї місця, "розвинути хобі" та здобути гуманітарну освіту.

"Люди, які є креативними та можуть мислити широко, люди, які багато читають, люди, які мають якісь зацікавлення, – це ті, хто отримає від цього найбільшу користь, – сказав Кларк. - Розвивайте допитливість, і вона окупиться тим, як ви можете використовувати цю технологію".