Euronews: Политици в град в Бразилия приеха закон, тайно написан от ChatGPT и той предизвика шум

Градски законодатели в Бразилия приеха това, което изглежда е първото законодателство в нацията, написано изцяло от изкуствен интелект (AI), дори и да не са го знаели по това време. Възраженията дойдоха, когато политиците в град Порто Алегре откриха, че законът, който са приели, е написан от популярния чатбот на OpenAI, предаде Euronews, разказвайки за случая.

Експерименталната наредба беше приета през октомври в южния град Порто Алегре и градският съветник Рамиро Росарио разкри през миналата седмица, че е написана от чатбот, предизвиквайки възражения и повдигайки въпроси относно ролята на ИИ в обществената политика.

Росарио каза пред Асошиейтед прес, че е поискал от чатбота ChatGPT на OpenAI да изготви предложение, което да попречи на града да таксува данъкоплатците за подмяна на водомерите, ако бъдат откраднати. 

След това го представи на своите 35 колеги в съвета, без да направи нито една промяна или дори да ги уведоми за безпрецедентния му произход.

„Ако го бях разкрил преди, предложението със сигурност дори нямаше да бъде подложено на гласуване“, каза Росарио пред АП. 

36-членният съвет го одобри единодушно и наредбата влезе в сила на 23 ноември.

„Би било несправедливо към населението да рискуваме проектът да не бъде одобрен само защото е написан от изкуствен интелект“, добави той.

Създаване на „опасен прецедент“

Появата на ChatGPT на пазара само преди година предизвика глобален дебат за въздействието на потенциално революционните чатботове, задвижвани от AI. 

Въпреки че някои го виждат като обещаващ инструмент, той също така предизвика безпокойство и безпокойство относно непредвидените или нежелани въздействия на машина, която се справя със задачи, изпълнявани в момента от хора.

Порто Алегре, с население от 1,3 милиона души, е вторият по големина град в южната част на Бразилия. 

Президентът на градския съвет Хамилтън Сосмайер разбра, че Росарио е привлякъл ChatGPT да напише предложението, когато съветникът се похвали за постижението в социалните медии в сряда. 

Сосмайер първоначално каза пред местните медии, че смята това за "опасен прецедент".

Големите езикови модели на AI, които захранват чатботове като ChatGPT, работят, като многократно се опитват да отгатнат следващата дума в изречение и са склонни да измислят невярна информация - феномен, който понякога се нарича халюцинация.

Всички чатботове понякога въвеждат невярна информация, отбелязва още Euronews, позовавайки се на наскоро публикувано проучване на технологичната компания Vectar.

В статия, публикувана на уебсайта на Центъра за правна професия на Харвардския юридически факултет по-рано тази година, Андрю Пърлман, декан на Юридическия факултет на университета Съфолк, пише, че ChatGPT „може да предвещава още по-значима промяна от появата на Интернет“, но също така предупреди за потенциалните му недостатъци.

Може не винаги да е в състояние да отчете нюансите и сложността на закона. 

„Тъй като ChatGPT е система за машинно обучение, тя може да няма същото ниво на разбиране и преценка като човешкия адвокат, когато става въпрос за тълкуване на правни принципи и прецедент. Това може да доведе до проблеми в ситуации, изискващи по-задълбочен правен анализ", пише Пърлман.

Законопроект е написан от ChatGPT в САЩ

Росарио от Порто Алегре не беше първият законодател в света, който тества способностите на ChatGPT. Други са го направили в по-ограничен капацитет или с по-малко успешни резултати.

В Масачузетс сенаторът от Демократическата партия Бари Файнголд се обърна към ChatGPT, за да помогне в написването на законопроект, насочен към регулиране на AI моделите, включително ChatGPT. Внесен по-рано тази година, той все още не е гласуван.

Файнголд каза в сряда, че ChatGPT може да помогне с някои от по-досадните елементи на законодателния процес, включително правилно и бързо търсене и цитиране на закони, които вече са в сила. 

Въпреки това е изключително важно всеки да знае, че ChatGPT или подобен инструмент е използван в процеса, добави той.

„Искаме работата, генерирана от ChatGPT, да бъде с воден знак“, каза той, добавяйки, че използването на AI за подпомагане на изготвянето на нови закони е неизбежно. „Подкрепям хората да използват ChatGPT, за да пишат законопроекти, стига да е ясно“, цитира го Euronews.

Нямаше такава прозрачност за предложението на Росарио в Порто Алегре. Сосмайер каза, че Росарио не е информирал колегите си, че ChatGPT е написал предложението.

Запазването в тайна на произхода на предложението беше умишлено. Росарио каза пред АП, че целта му е не само да разреши местен проблем, но и да предизвика дебат. Той каза, че е въвел подкана от 49 думи в ChatGPT и той върнал пълния проект на предложението за секунди, включително обосновките.

„Убеден съм, че... човечеството ще преживее нова технологична революция“, каза той. "Всички инструменти, които сме разработили като цивилизация, могат да бъдат използвани за зло и добро. Ето защо трябва да покажем как могат да бъдат използвани за добро".

И председателят на съвета, който първоначално осъди метода, вече изглежда е повлиял.

„Промених решението си“, каза Сосмайер. „Започнах да чета по-задълбочено и видях, че за съжаление или за щастие това ще бъде тенденция“.

Оригиналната статия е достъпна ТУК.