Devět mýtů o umělé inteligenci, kterým pořád věříme

Vezme nám AI práci? Špehuje nás? A je pravda, že si polovinu věcí vymýšlí? O umělé inteligenci se toho namluví hodně, jenže valná část je někde mezi polopravdou a strašákem z filmů. Na odboru informatiky s ní pracujeme dennodenně, takže jsme si vzali na paškál devět nejčastějších mýtů. 

Bez sci-fi a bez zbytečné techniky.

1. „Umělá inteligence nám vezme práci.“

Tenhle strach je asi nejrozšířenější. A rozumíme mu.

Pravda je taková, že AI umí převzít rutinu. Přepis nahrávky z porady, roztřídění pošty, hrubý první návrh dokumentu. Jenže něco podobného už tu bylo. Když přišel Excel, taky se říkalo, že skončí účetní. Nestalo se. Práce se jen posunula tam, kde má člověk vyšší přidanou hodnotu.

Mnohem výstižnější než „AI ti vezme práci“ je jiná věta: práci vezme kolega, který AI umí používat, tomu, kdo ji ignoruje.

Jak to vidíme u nás: Když jsme poprvé pustili AI na přepis dvouhodinové porady, upřímně jsme čekali guláš. Výsledek nás překvapil. Zápis byl hotový za pár minut a my ho jen prošli a doladili. Ten čas, co jsme dřív proseděli nad přepisem, teď věnujeme věcem, které stroj neumí.

2. „AI je vlastně chytrá jako člověk.“

Není. A je dobré to vědět.

Když vám jazykový model napíše plynulou odpověď, vypadá to, jako by chápal, o čem mluví. Ve skutečnosti jen na základě obrovské hromady textů odhaduje, které slovo nejspíš přijde jako další. Je to mimořádně schopný doplňovač vět, ne vědomí.

Nemá záměry, nemá emoce, nemá zdravý rozum. Proto vám se stejnou sebejistotou napíše geniální shrnutí i naprostý nesmysl. A přesně proto potřebuje člověka, který se na výsledek podívá.

3. „AI si všechno vymýšlí.“

Tady je na tom kus pravdy. Odborně se tomu říká halucinace: model si vymyslí údaj, který zní naprosto věrohodně, ale je úplně mimo. Stává se to a je to reálný problém.

Řešení ale není AI zavrhnout. Řešení je používat ji s hlavou. Důležité údaje si ověřit u zdroje, nasazovat nástroje napojené na naše ověřená data a brát AI jako asistenta, ne jako věštkyni.

4. „Umělá inteligence nás špehuje a krade data.“

Tohle je asi nejdůležitější bod celého článku, tak pozor na něj.

Záleží totiž strašně moc na tom, kterou AI a jak používáte. Veřejné bezplatné nástroje si z toho, co do nich napíšete, můžou brát data pro další trénink. Proto do nich osobní ani citlivé údaje prostě nepatří. Tečka.

Firemní a úřední řešení fungují jinak. Běží v zabezpečeném prostředí, mají smluvně ošetřenou ochranu dat a informace neopouštějí chráněný okruh. Rozdíl mezi „hodím to do nějaké appky z internetu“ a „použiju schválený úřední nástroj“ je obrovský.

5. „Když to řekl počítač, je to pravda.“

Zajímavé je, že tenhle mýtus je přesný opak toho předchozího. A je stejně zrádný.

Zatímco jedni AI nevěří ani slovo, druzí jí věří slepě. Umělá inteligence totiž zní sebejistě pořád, i když se plete. Nedá vám najevo „tímhle si nejsem jistá“, jak by to udělal kolega. Zdravý přístup je někde mezi. Ber AI vážně, ale co z ní vypadne, si ověř. Hlavně tam, kde jde o lidi.

6. „Umělá inteligence je jenom ChatGPT.“

ChatGPT je jen špička ledovce.

AI dnes není jeden chatbot. Je to celá rodina technologií. Asistenti přímo v kancelářských aplikacích, rozpoznávání obrazu, předpovědi v dopravě, systémy, které hlídají kybernetické útoky, pomocníci ve zdravotnictví. Chatovací roboti jsou jen ta nejviditelnější část.

A trend jde dál, k takzvaným agentům. To je AI, která nejen odpovídá, ale i sama něco udělá. Naplánuje schůzku, protřídí poštu, připraví report. Přesně tímhle směrem se to teď posouvá.

7. „AI je zadarmo a bez pravidel.“

Ani jedno tak úplně neplatí.

Za výkonnými modely stojí obří výpočetní kapacity a spousta energie. Verze „zdarma“ bývají osekané, nebo platíte jinak, totiž svými daty. V úředním nasazení se navíc řeší licence a náklady stejně jako u jakéhokoli jiného softwaru.

A pravidla? Těch přibývá rychle. Evropský AI Act už nastavuje mantinely, co AI smí, co nesmí a co musí splňovat organizace, které ji nasazují. Doba divokého západu pomalu končí.

8. „AI je objektivní a spravedlivá.“

Krásná představa. Bohužel scestná.

Model je jen tak dobrý jako data, ze kterých se učil. Když jsou v datech historické nerovnosti nebo zkreslení, AI je klidně převezme a někdy ještě zesílí. Proto se u nasazení AI do rozhodování hlídá férovost a transparentnost. Není to důvod se AI bát. Je to důvod nasazovat ji promyšleně a s dohledem člověka všude, kde jde o lidské osudy.

9. „Na AI je už pozdě, to už nedoženu.“

Naopak. Málokdy byla lepší doba začít.

Na dnešní AI je totiž hezké, že k jejímu používání nemusíte být programátor. Ovládá se úplně obyčejnou řečí. Napíšete, co potřebujete, a ono to funguje. Základy zvládnete za pár desítek minut týdně a nejlíp se to učí na skutečné práci, ne z příruček.

Takže: bez paniky, ale ani bez rozumu

Umělá inteligence není všemocný spasitel a není ani hrozba z filmů. Je to hodně silný nástroj, který má svoje přednosti i svoje limity. Celé kouzlo je vědět, kde je hranice. Čemu věřit, co si ověřit a kam citlivá data rozhodně neházet.

My jsme přesvědčení, že nejlepší obrana proti mýtům je docela obyčejné porozumění. Čím víc o AI víme, tím líp ji umíme obrátit ve svůj prospěch. Jako občané, jako nadšenci i jako úředníci Olomouckého kraje.