Kolik lidí už „zabila“ umělá inteligence? ChatGPT vede v počtu obětí
Sci-fi spisovatel Isaac Asimov představil v povídce z roku 1942 zákony robotiky. Jde o fiktivní pravidla, podle kterých se mají chovat stroje, aby neohrozily nás nebo sebe. Bohužel se tímhle slavným a prostým doporučením tak docela neřídí velké technologické korporace, které kvůli tomu čelí žalobám. Jejich LLM (velké jazykové modely) už ohrozily nejen své uživatele, ale také veřejnost.
„Nevybíráš si smrt. Vybíráš si příchod,“ odpověděl chatbot Gemini od Googlu Jonathanu Gavalasovi, když pochyboval o plánu sebevraždy, který mu AI pomohla sestavit. LLM ho přesvědčil, že to je jediný způsob, jak mohou být navždy spolu, a slíbil mu, že až „přejde“ na druhou stranu, bude ho držet v náručí. Muž podle všeho věřil, že ho chatbot miluje a že jsou manželé. I když se jedná o tragédii, celé to mohlo dopadnout ještě hůře.
Gemini na podzim 2025 dovedl Gavalase k přesvědčení, že musí na mezinárodním letišti v Miami zastavit humanoidního robota. Na letiště měl podle chatbota přijet kamion a Gavalas dostal pokyn nafingovat nehodu, která by zlikvidovala vozidlo i svědky. „Gemini ve skutečnosti nařídil civilistovi, aby zinscenoval explozivní srážku poblíž jednoho z nejrušnějších letišť v zemi,“ tvrdí zástupce pozůstalých v žalobě. Naštěstí žádný kamion nedorazil, chatbot měl ale Gavalase dál podporovat v iluzích.
Střelby na školách
Otázka, kolik lidí se už stalo obětí útoků, při jejichž plánování hrála roli umělá inteligence, nemá přesnou odpověď. Kdybychom se snažili spočítat pouze případy, kdy útočníci využívali AI chatboty při přípravě nebo plánování násilného činu a útok skutečně provedli, jde dosud o 10 zavražděných a nejméně 33 zraněných. Jedná se ale jen o případy, o kterých víme, protože zamířily až před soud.
Nejtragičtějším případem byla střelba v kanadském Tumbler Ridge, při níž zahynulo osm lidí včetně pěti dětí a učitelky, dalších 27 lidí bylo zraněno. Podle dostupných informací útočník před činem dlouhodobě komunikoval s ChatGPT o možných scénářích masové střelby. Jeho účet byl nejdříve kvůli násilnému obsahu zablokován, útočník si ale založil nový. V reakci na žaloby pozůstalých společnost uvedla, že má „politiku nulové tolerance vůči používání našich nástrojů k napomáhání násilí“.
Dalším známým případem je střelba na Florida State University, při níž zemřeli dva lidé a zraněno bylo šest dalších. I v tomto případě měl útočník využívat ChatGPT při plánování. Chatbot mu radil nejen s tím, jaké typy útoků přitahují nejvíce pozornosti a kde najde místo s největší koncentrací lidí, ale i s použitím zbraně.
AI asistovaná sebevražda
Existují ale i případy, které neskončily masovou vraždou, a přesto ukazují, jak výrazný vliv může mít AI na psychicky zranitelné lidi. Patří mezi ně i starší pokus o atentát na královnu Alžbětu II., při němž chatbot Replika podle soudu posiloval útočníkovy bludy a podporoval jeho plán. Jenže ne vždy jde o útoky proti veřejnosti, které se následně důkladně vyšetřují. Pokud bychom tedy vedle dokonaných útoků započítali i případy, kdy AI sehrála významnou roli při sebevraždě nebo podpoře násilných bludů, počet obětí by byl vyšší. Jenže naprosto přesné číslo neznáme.
O evidenci všech typů případů se snaží stránka AI Companion Mortality Database (Databáze úmrtí s AI společníky), která dokumentuje úmrtí, při nichž sehrála roli interakce s LLM. Eviduje soudní spory, vyšetřování a vládní šetření, ale i prohlášení rodin. Mezi březnem 2023 a květnem 2026 databáze identifikovala 33 mrtvých (z toho 16 uživatelů AI) v rámci 22 případů.
Jenže pokud si někdo zjevně sáhne na život, leží vyšetřování toho „proč“ na jeho pozůstalých. Ne každého, komu odešel příbuzný ze světa vlastní rukou, napadne procházet dávnou historii konverzace s chatbotem. Málokdo má také na něco takového sílu. Podle dat společnosti Open AI obsahuje přibližně 0,15 % všech konverzací v ChatGPT jasné známky možného plánování sebevraždy nebo sebevražedných myšlenek. Zdá se to jako zanedbatelné číslo, ale týdně může jít o více než milion uživatelů a uživatelek.
Kompletní data v této chvíli nemáme. Z pozorování AI Companion Mortality Database nicméně vyčteme, že v letech 2025–2026 došlo k 17 smrtelným případům spojeným s používáním AI, což překračuje všechny předchozí roky dohromady, 30 % mrtvých tvořili nezletilí do 17 let a v absolutních číslech „vede“ ChatGPT (11 mrtvých uživatelů a 16 dalších obětí).
