Водещи IT експерти: Изкуственият интелект може да бъде по-голяма заплаха за човечеството от изменението на климата

Над 350 технически експерти, учени и ръководители подписаха във вторник изявление, предупреждаващо за рисковете, пред които е изправено човечеството на фона на бързото развитие на изкуствения интелект (ИИ).

"Намаляването на риска от изчезване заради ИИ трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война", се казва в съвместното изявление, публикувано на уебсайта на Центъра за безопасност на ИИ (Center for AI Safety, CAIS) и цитирано от БНР.

Изявлението беше подписано от главния изпълнителен директор на OpenAI - Сам Алтман и техническия директор Мира Мурати, главния изпълнителен директор на Google DeepMind - Демис Хасабис, главния технически директор на Microsoft - Кевин Скот и главния научен директор - Ерик Хорвиц, главния изпълнителен директор на Anthropic - Дарио Амодей, както и редица изследователи и експерти от други технологични компании и видни университети.

Сред тях се личат и имената на Джефри Хинтън и Йошуа Бенгио – двама от тримата така наречени "кръстници на ИИ", които получиха наградата Тюринг през 2018 г. за работата си по задълбочено обучение, както и редица професори от институции, вариращи от Харвард до китайския университет "Цинхуа".

Те отбелязаха, че съвместното има изявление "има за цел да създаде общи познания за нарастващия брой експерти и обществени личности, които също приемат сериозно някои от най-тежките рискове на напредналия ИИ".

Това е второ подобно изявление през последните месеци, след призива на Илон Мъск, Стив Возняк и над 1000 други за пауза в развитието на ИИ. Въпреки че ИИ може да не притежава самосъзнание, той вече представлява риск чрез дълбоки фалшификации, автоматизирана дезинформация и потенциално изземване на работни места.

Последните разработки в AI създадоха инструменти, които, според привържениците на изкуствения интелект, могат да се използват в приложения от медицинска диагностика до писане на правни документи, но това породи опасения, че технологията може да доведе до нарушаване на поверителността, кампании за дезинформация и да доведе до проблеми със самостоятелното мислене на "умните машини".

Пионерът на изкуствения интелект Хинтън каза по-рано пред Ройтерс, че изкуственият интелект може да представлява "по-спешна" заплаха за човечеството от изменението на климата.

Президентът на САЩ Джо Байдън изрази необходимостта технологичните компании да гарантират безопасността на продуктите с ИИ и призова за въвеждане на регулации.

Днешното изявление съвпадна със срещата на Съвета за търговия и технологии САЩ - ЕС в Швеция, където се очаква политиците да говорят за регулирането на ИИ.

Междувременно председателят на Европейската комисия Урсула фон дер Лайен ще се срещне в четвъртък с главния изпълнителен директор на OpenAI - Сам Алтман.