Odborníci vyzývají k pozastavení vývoje umělé inteligence „mimo kontrolu“.

Google Bard je k dispozici uživatelům.

AppleInsider může získat přidruženou provizi za nákupy uskutečněné prostřednictvím odkazů na našich stránkách.

Byl to rok, kdy se agenti umělé inteligence jako ChatGPT a Google Bard stali mainstreamem. Navzdory tomu, že všechny společnosti s umělou inteligencí popisují své produkty jako experimenty nebo efektivně beta verze, jejich funkce pro zpracování jazyka jsou integrovány do Microsoft 365 a vyhledávání včetně Bingu.

Nyní Institut budoucnosti života žádá o „veřejnou a ověřitelnou“ pauzu, která zahrnuje „všechny klíčové aktéry“ v této oblasti. „Pokud takovou pauzu nelze uzákonit rychle,“ dodává, „měly by vlády zasáhnout a zavést moratorium.“

Future of Life Institute si klade za cíl „nasměrovat transformační technologii směrem k prospěchu života a pryč od extrémních rozsáhlých rizik“.

Tento dopis o 600 slovech, určený všem vývojářům umělé inteligence, tvrdí, že je potřeba udělat si pauzu, protože „poslední měsíce byly svědky toho, že laboratoře umělé inteligence se v závodě vymkly kontrole ve vývoji a nasazení stále výkonnějších digitálních myslí, které nikdo – ani jejich tvůrci – mohou pochopit, předvídat nebo spolehlivě ovládat.“

„Laboratoře umělé inteligence a nezávislí odborníci by měli tuto pauzu využít ke společnému vývoji a implementaci sady sdílených bezpečnostních protokolů pro pokročilý návrh a vývoj umělé inteligence, které jsou přísně kontrolovány a kontrolovány nezávislými externími odborníky,“ pokračuje. „Tyto protokoly by měly zajistit, že systémy, které se na ně vztahují, jsou nade vší pochybnost bezpečné.“

„To neznamená pozastavení vývoje umělé inteligence obecně,“ píše se v otevřeném dopise, „pouze krok zpět od nebezpečné rasy ke stále větším nepředvídatelným modelům černé skříňky s novými schopnostmi.“

V době psaní tohoto článku má otevřený dopis ústavu 1123 signatářů. Patří mezi ně vysoce profilované, jako jsou:

• Elon Musk, generální ředitel společností SpaceX, Tesla a Twitter
• Steve Wozniak, spoluzakladatel společnosti Apple
• Jaan Tallinn, spoluzakladatel Skype
• Evan Sharp, spoluzakladatel Pinterestu

Google i Microsoft pracují na implementaci technologických nástrojů založených na nových systémech chatbotů AI. Počáteční spuštění implementace Microsoft Bing dopadlo špatně a Bard od Googlu udělal ve svém prvním demu faktickou chybu.