Rámec umělé inteligence vyzývá vývojáře, aby pracovali bezpečně

„Pokyny pro bezpečný vývoj systémů umělé inteligence“, které v neděli představila americká Agentura pro kybernetickou bezpečnost a bezpečnost infrastruktury a britské Národní centrum pro kybernetickou bezpečnost, jsou dokumentem, který radí k vývoji systémů umělé inteligence.

Záměrem je pomoci vývojářům systémů, které využívají AI, „činit informovaná rozhodnutí o kybernetické bezpečnosti v každé fázi vývojového procesu,“ vysvětluje CISA. Poskytují také doporučení, která „zdůrazňují důležitost dodržování zásad Secure by Design.“

Směrnice byly vytvořeny ve spolupráci s 22 dalšími bezpečnostními agenturami po celém světě a také s příspěvky různých společností zapojených do prostředí AI. Seznam zahrnuje Amazon, Google, IBM, Microsoft, OpenAI a Plantir, ale Apple není v poděkování zmíněn, navzdory jeho historii práce v této oblasti.

„Jsme v inflexním bodě ve vývoji umělé inteligence, která může být nejdůslednější technologií naší doby. Kybernetická bezpečnost je klíčem k budování systémů umělé inteligence, které jsou bezpečné, zabezpečené a důvěryhodné,“ řekl ministr pro vnitřní bezpečnost Alejandro. N. Mayorkas. „Integrací principů secure by design představují tyto směrnice historickou dohodu, do které musí vývojáři investovat a která chrání zákazníky v každém kroku návrhu a vývoje systému.“

Mayorkas pokračoval a dodal: „Prostřednictvím globálních opatření, jako jsou tyto pokyny, můžeme vést svět ve využívání výhod a zároveň řešit potenciální škody této průkopnické technologie.“

„Víme, že umělá inteligence se vyvíjí fenomenálním tempem a že je potřeba koordinované mezinárodní akce napříč vládami a průmyslem, abychom udrželi krok,“ řekla generální ředitelka NCSC Lindy Cameron. „Tyto směrnice znamenají významný krok ve formování skutečně globálního, společného chápání kybernetických rizik a strategií zmírňování AI, aby bylo zajištěno, že zabezpečení nebude následovat vývoj, ale bude základním požadavkem.

Pokyny, které jsou rozloženy ve 20stránkovém souboru PDF hostovaném na webových stránkách NCSC, jsou rozděleny do čtyř oblastí zájmu.

Pro Secure Design se pokyny týkají pochopení rizik a modelování hrozeb spolu s další diskuzí o kompromisech pro návrh systému a modelu. Secure Development se zabývá bezpečností dodavatelského řetězce, dokumentací a správou aktiv a technického dluhu.

Secure Deployment vstupuje do oblasti ochrany infrastruktury a modelu před kompromitací, hrozbou nebo ztrátou a procesy správy incidentů. A konečně, Secure Operation and Maintenance zpracovává akce po nasazení, jako je protokolování, monitorování, aktualizace a sdílení informací.

Zavedení pokynů od bezpečnostních agentur k aktuálnímu tématu, jako je umělá inteligence, zní jako důležité. Koncept je důležitý, ale dokument není ani dobrý základ.

To vše jsou pokyny, nikoli pravidla, která je třeba dodržovat. Společnosti, které vyvíjejí vlastní systémy umělé inteligence, si mohou dokument přečíst, ale nemají povinnost nic z toho skutečně uvést do praxe.

Neexistují žádné sankce za nedodržení toho, co je nastíněno, a žádné zavádění zákonů. Dokument je pouze seznamem přání věcí, o kterých vlády chtějí, aby tvůrci umělé inteligence skutečně přemýšleli.

Stejně jako v případě takových rámců, které nabízejí pokyny, neexistuje žádná záruka, že někdo skutečně doporučení vůbec vezme na vědomí. A není jasné, kdy a zda vůbec dorazí legislativa, která nařizuje, co je v dokumentu.

To znamená, že společnosti pracující na AI již téměř jistě berou v úvahu bezpečnostní otázky při vývoji svých produktů. Vzhledem k potenciální důležitosti umělé inteligence v budoucnu a možnosti jejího zneužití nebo napadení mnoho vývojářů již přidává bezpečnostní opatření.

Nový meziagenturní rámec jistě nabízí výrobcům umělé inteligence návod na zdravý rozum, ale informace, které pravděpodobně budou ignorovat vývojáři, kteří si již velmi dobře uvědomují potřebu zabezpečení.