Lukáš Petránek 
Nedávné pokroky v AI a vydání ChatGPT vyvolaly nový zájem o AI jako nástroj. Agentizované LLM jsou nejnovějším pokusem vytvořit vysoce specializované umělé inteligence a vyhnout se jejich podvodům.
Umělá inteligence je dnes v módě, lidé a organizace spěchají s implementací nebo používáním umělé inteligence ke zvýšení efektivity a zisku. Ve světě umělé inteligence však stále přetrvává jedna otravná obava, která se s postupem času stává stále znepokojivější: zarovnání.
Zarovnání AI se týká procesu navrhování a implementace systémů AI tak, aby odpovídaly lidským cílům, hodnotám a požadovaným výsledkům. Jinými slovy, zarovnání se týká zajištění toho, aby AI nezklamala.
Toto je rodící se obor v AI a výzkumníci a vývojáři si teprve obecně začínají uvědomovat jeho důležitost. Strach z toho, že se AI vymkne kontrole a potenciálně poškodí nebo zničí lidstvo, stojí za snahou o lepší sladění AI.
Rozdělení úkolů umělé inteligence pomocí kompozice
Jedním ze způsobů, jak dosáhnout funkčního zarovnání AI, které zachovává přesnost i zarovnání, je složení – koncept převzatý ze světa softwaru, ve kterém je software konstruován sestavením existujících komponent za účelem vytvoření aplikace nebo sady.
Zarovnání se obvykle používá, když se odkazuje na školení velkých jazykových modelů (LLM), aby se dozvěděli o konkrétní doméně znalostí – a při pravidelném přeškolování těchto modelů, když se začnou odchylovat od kurzu.
Myšlenka použití kompozice v AI je rozdělit modely učení na dílčí úkoly, přičemž každý úkol se zaměří na jednu věc. Celkový software pravidelně kontroluje každou úlohu, aby se ujistil, že plní svou funkci – a pouze svou funkci.
Použitím kompozice k zaměření výukových úkolů na jednu věc mohou být systémy umělé inteligence sestaveny tak, aby byly spolehlivější a přesnější tím, že udržují dílčí úkoly a modely v souladu s požadovanými cíli.
Odraz, nebo reflexe
Jedním ze způsobů, jak trénovat modely umělé inteligence, aby zůstaly na cíli, je umožnit jim používat reflexi – při které se model nebo úkol pravidelně kontroluje, aby se ujistil, že to, co sleduje, je pouze v souladu s jeho cílem. Pokud se model nebo úkol začne odklánět od tématu, software může úkol pravidelně upravovat, aby se ujistil, že zůstane zaměřený.
Úkolově řízení autonomní agenti
Protože konečným cílem zarovnání je přesnost a vynucování hranic, a protože kompozice je dobrý způsob, jak toho dosáhnout, konečným cílem je vyvinout systém agentů. Každý agent se stává doménovým expertem na určité téma.
Agentizované LLM a další obecní agenti umělé inteligence jsou již ve vývoji a v některých případech jsou již uvolněni a kolem subjektu vzniká celý ekosystém agentů umělé inteligence.
výzkumník AI Yohei Nakajima publikoval na svém blogu článek s názvem „Task-driven Autonomous Agent Utilizing GPT-4, Pinecone, and LangChain for Diverse Applications“.
LangChain je sada nástrojů a agentů umělé inteligence, která pomáhá vývojářům vytvářet agentizované LLM prostřednictvím skládání.
Nakajima má také blogový příspěvek s názvem „Rise of the Autonomous Agent“. Nakajimův článek ukazuje diagramy jednoho možného způsobu, jak by agentizované LLM systémy mohly fungovat:
Operační systémy agentů AI
e2b.dev vydal EB2, který popisuje jako „operační systém pro AI agenty“. Eb2.dev také zveřejnil seznam „Úžasných agentů AI“ na GitHubu. K dispozici je také úložiště úžasných sad SDK pro agenty AI.
V budoucnu si můžeme představit systémy umělé inteligence, které lze jednoduše změnit změnou toho, kteří agenti a LLM jsou vybráni pro zarovnání, dokud nebude dosaženo požadovaného výsledku. Je možné, že uvidíme operační systémy agentů AI, které tyto úkoly zvládnou za nás.
Dodatečné zdroje
Kromě výše zmíněných zdrojů se podívejte také na AI Tool Hub – konkrétně Úvod do AI Alignment: Aby AI fungovala pro lidstvojakož i Důležitost zarovnání AI, vysvětlená v 5 bodech na fóru AI Alignment Forum.
Je tu také dobrý úvodní dokument na téma zarovnání AI s názvem Pochopení výzkumu zarovnání AI: Systematická analýza od Jana H. Kirchnera, Logana Smithe, Jacquese Thibodeaua a kol.
Další zajímavou webovou společností zabývající se agenty umělé inteligence je Cognosys.
Budeme muset počkat a uvidíme, jaká budoucnost přinese AI a sladění, ale práce již dobře probíhají, abychom se pokusili zmírnit některá rizika a potenciální negativní aspekty, které může AI časem přinést.
Zdroj: appleinsider.com
