„Kmotr umělé inteligence“ opustil Google, volá po regulacích

Dr. Hinton se obává ChatGPT a dalších technologií umělé inteligence

OpenAI, která vytvořila ChatGPT a další nástroje AI, si v poslední době získala značné množství pozornosti. Lidé, kteří jsou výkonnější než starší chatboti od jiných společností, mohou používat ChatGPT ke generování článků, pomáhat s výzkumem, odpovídat na otázky a dokonce jednat autonomně.

Mluvit s The New York Timesříká, že rezignoval na Google, aby varoval lidi před riziky AI, a část z něj lituje svého celoživotního díla.

„Utěšuji se normální výmluvou: Kdybych to neudělal já, udělal by to někdo jiný,“ řekl Dr. Hinton. „Je těžké pochopit, jak můžete zabránit špatným hercům, aby to používali ke špatným věcem.“

Hinton se nepřipojil k dalším prominentním lidem, kteří podepsali otevřený dopis, aby dočasně zastavili pokroky AI. Místo toho se chtěl vyhnout veřejné kritice společnosti Google a dalších společností, dokud neopustí svou práci.

V dubnu oznámil Googlu svou rezignaci a ve čtvrtek telefonicky hovořil se Sundarem Pichaiem, generálním ředitelem mateřské společnosti Google, Alphabet.

Dr. Hinton je průkopníkem umělé inteligence, který vytvořil technologii, která se dnes stala základem mnoha systémů umělé inteligence, jako jsou nástroje k identifikaci objektů na obrázku. V roce 1972 řídil výzkum neuronových sítí.

Je to systém, který se učí dovednosti analýzou dat, a přestože ostatní výzkumníci byli k této myšlence skeptičtí, Hinton učinil z neuronových sítí svou životní práci.

V roce 2012 on a dva jeho studenti vybudovali neuronovou síť, která dokázala analyzovat tisíce fotografií a naučit se identifikovat každodenní předměty, jako jsou psi, auta a květiny. Google získal společnost založenou Dr. Hintonem a jeho studenty a jejich systém vedl k výkonnějším technologiím, včetně ChatGPT.

Jeden z těchto studentů, Ilya Sutskever, se stal hlavním vědcem v OpenAI.

Hinton byl zpočátku skeptický k neuronovým sítím, které se naučily z digitálního textu rozumět a generovat jazyk, ale jeho názory se postupem času měnily. „Možná, že to, co se děje v těchto systémech,“ řekl, „je ve skutečnosti mnohem lepší než to, co se děje v mozku.“

Současné systémy umělé inteligence nejsou v některých ohledech tak výkonné jako lidský mozek, ale v jiných ohledech by mohly překonat lidskou inteligenci.

„Jsme biologické systémy a toto jsou digitální systémy. A velký rozdíl je v tom, že s digitálními systémy máte mnoho kopií stejné sady závaží, stejného modelu světa,“ řekl BBC. „A všechny tyto kopie se mohou učit samostatně, ale okamžitě sdílet své znalosti.“

„Takže je to, jako byste měli 10 000 lidí, a kdykoli se jeden člověk něco naučil, všichni to automaticky věděli,“ pokračoval Hinton. „A díky tomu mohou tito chatboti vědět mnohem víc než kdokoli jiný.“

Jak společnosti zdokonalují své technologie AI, mohou se stát nebezpečnějšími. „Podívejte se, jak to bylo před pěti lety a jak to je teď,“ řekl Hinton. „Vezmi ten rozdíl a propaguj ho dál. To je děsivé.“

Dr. Hinton se obává, že internet brzy zaplaví falešné fotografie, videa a texty a většina lidí nebude schopna rozeznat pravdu. Zajímá ho také dopad umělé inteligence na trh práce a to, že by mohla vzít víc než jen „dřinu“.

Konkurence mezi Googlem, Microsoftem a dalšími společnostmi by se mohla zintenzivnit v celosvětový závod, který bude přetrvávat, dokud nedojde k nějaké formě globální regulace. Ale to může být nemožné, řekl Hinton.

Věří, že největší nadějí lidstva je, aby přední světoví vědci spolupracovali na ovládání technologie. „Nemyslím si, že by to měli zvětšovat, dokud nepochopí, zda to mohou ovládat,“ řekl.

Pokud jde o Google, „zůstáváme odhodláni k odpovědnému přístupu k AI,“ uvedl v prohlášení hlavní vědec společnosti Jeff Dean. „Neustále se učíme porozumět vznikajícím rizikům a zároveň odvážně inovujeme.“