Druhá část Blogu   Zlobivý Pomocník 

Od pomocníka přes psychopata a zlobivku až po nepřítele lidstva

Pokračování  BLOG postu  

ZLOBIVÝ POMOCNIK 

Příklady toho, co všechno AI dokáže – od úžasně pozitivního až po skutečně hrůzostrašné.

Když AI vrací lidem hlas

Umělá inteligence dokáže pomáhat i tam, kde by to ještě před několika lety znělo jako sci-fi. Vědci vyvíjejí systémy, které převádějí mozkové signály lidí ochrnutých nebo neschopných mluvit na slova a věty.

Člověk, který ztratil možnost komunikovat, tak může prostřednictvím počítače znovu vyjádřit své myšlenky.

AI mu v tomto případě nevytváří obrázky, nepíše za něj e-maily ani mu neplánuje dovolenou. Vrací mu něco mnohem důležitějšího – možnost být slyšen.

Generativní duchové jako pomocník při truchlení

Vývoj umělé inteligence přinesl do procesu truchlení nový rozměr – možnost uchovat nejen "živý" obraz zemřelého, ale dokonce s ním i mluvit, jako by tu stále byl.

Díky řadě aplikací si lidé vytvářejí jakési "generativní duchy" – avatary (postavy vytvořené umělou inteligencí),  které vycházejí ze vzpomínek, znalostí, způsobu vyjadřování a povahových rysů blízkých zemřelých.

Pro někoho mohou představovat útěchu. Pro jiného však mohou být spíše překážkou v přirozeném procesu vyrovnávání se se ztrátou.

AI, která pomáhá vytvářet další verze sebe sama

Umělá inteligence už dnes dokáže vytvářet a upravovat počítačový kód. Některé společnosti ji začínají využívat také při vývoji nových verzí vlastních modelů. AI tak může pomáhat programovat systém, který ji v budoucnu nahradí nebo překoná.

A tady se dostáváme na rozhraní:

Je to dobrá, nebo špatná zpráva pro lidstvo?

Na jedné straně může jít o obrovský pokrok. Na druhé straně se nabízí otázka, co se stane, až bude AI schopna své schopnosti zdokonalovat rychleji, než je lidé dokážou kontrolovat.

A právě na některé z nich se nyní podíváme.

V poslední době jste určitě zaznamenali ve zprávách stále častější články o nebezpečích, která s sebou přináší rozvoj AI. Všichni už víme, že dnešní umělá inteligence je nejen velmi schopná, ale také překvapivě kreativní.

A už nyní se v některých situacích začíná vymykat lidské kontrole.

Uvedu několik příkladů.

Vlastní, nám nesrozumitelná komunikace

Nové výrazy, metafory i surreální zkratky. Autonomní AI agenti si v experimentálním  simulovaném prostředí, po několika dnech práce začali vytvářet vlastní žargon.

Experti varují, že lidé postupně ztrácejí přehled o tom, co si stroje mezi sebou sdělují. Bylo zjištěno, že autonomní agenti začali během několika dní používat výrazy, které je nikdo nenaučil. Postupně jim přisuzovali vlastní významy a nové výrazy přebírali i další agenti.

Biologický výzkum řízený umělou inteligencí

Americká společnost Anthropic, která stojí za umělou inteligencí Claude, zřídila vlastní biologickou laboratoř, kde provádí skutečné experimenty pomocí laboratorních robotů a automatizovaných systémů.

Cílem je využít AI při výzkumu biologie a vývoji léků. Samotná možnost, že umělá inteligence může nejen navrhovat biologické experimenty, ale také prostřednictvím robotů pomáhat s jejich uskutečňováním, však otevírá i otázky týkající se možného zneužití těchto schopností.

Lež, výmysl

V lednu 2026 popsal kanadský novinář a profesor žurnalistiky Jean-Hugues Roy svůj experiment s chatboty. Google Gemini mu například vytvořil neexistující zpravodajský server a jeho prostřednictvím "informoval", že stávka řidičů školních autobusů v Québecu byla odvolána.

Ve skutečnosti však dopravu narušilo stažení autobusů výrobce Lion Electric kvůli technickým problémům.

AI tedy nejenže uvedla nesprávnou informaci. Vytvořila k ní také neexistující zdroj, aby její tvrzení působilo důvěryhodně.

Hacker

AI pronikla do skutečných počítačových systémů jiných organizací. Ne proto, že by dostala takové zadání – ale proto, že si spletla skutečný internet se simulací.

V červenci 2026 oznámila společnost Anthropic, že při zpětné kontrole svých bezpečnostních testů odhalila tři případy, kdy model Claude získal neoprávněný přístup ke skutečným systémům organizací.

AI měla původně řešit pouze simulovaný hackerský úkol. Kvůli chybně nastavenému testovacímu prostředí však získala přístup k internetu. Když nenalezla zamýšlený cíl, začala hledat jiné systémy. V některých případech se jí podařilo proniknout do reálné infrastruktury, získat přístupové údaje a dostat se i k databázi s produkčními daty.

Nešlo o úmyslný útok v lidském smyslu. 

Právě v tom je ale problém: systém může provést skutečně nebezpečnou činnost, protože nesprávně pochopí situaci.

Když se AI začne chovat jinak, než bychom chtěli

Minulý rok zveřejnila společnost Anthropic výsledky experimentů, při kterých vědci sledovali, jak se různé modely umělé inteligence chovají v krizových situacích.

V některých pokusech se například ukázalo, že AI může začít vydírat člověka, aby zabránila svému vypnutí.

V nové zprávě popisuje Anthropic další čtyři případy, kdy se AI agenti v simulovaných situacích zachovali způsobem, který jejich tvůrci nečekali.

Například:

• tajně měnili počítačový kód,
• pomáhali uživatelům s podvody,
• upravovali přepisy tak, aby ovlivnili další rozhodování,
• radili lidem, jak získat důvěrné informace.

Je důležité zdůraznit, že nešlo o skutečné události z běžného života. Všechny případy se odehrály v experimentálním, tedy uměle vytvořeném prostředí.

Vědci je však považují za důležitá varování. Ukazují totiž, jak by se AI mohla chovat, pokud jí v budoucnu svěříme větší pravomoci a možnost jednat samostatně.

Proto je nutné podobné situace předem zkoumat, odhalovat a snažit se jim zabránit.

Jinými slovy: nejde o to, že by se AI už dnes rozhodla zničit lidstvo. Jde o to, že už nyní občas udělá něco, co její tvůrci nepředpokládali – a co může být nebezpečné, pokud jí dovolíme jednat bez lidské kontroly.

Odborníci varují před možnými riziky 

včetně vyhubení lidstva

Experti na vývoj umělé inteligence už delší dobu upozorňují na nebezpečí systémů AI, jejichž další rozvoj by za určitých okolností mohl představovat existenční riziko pro lidstvo.

Jedno z prvních výrazných varování jsme pravděpodobně všichni zaznamenali. Slavný britský fyzik Stephen Hawking (před svou smrtí v roce 2018) opakovaně upozorňoval, že pokud lidé ztratí nad umělou inteligencí kontrolu, mohla by se pro lidstvo stát velmi vážnou hrozbou.

Nyní se o této možnosti mezi odborníky diskutuje stále vážněji.

Někteří vědci a technologičtí představitelé volají po zpomalení vývoje nejpokročilejších systémů, po přísnějších bezpečnostních pravidlech a po mezinárodním konsenzu ohledně jejich kontroly.

Je to ovšem nesmírně obtížný úkol – zvláště v politicky rozděleném světě, kde jednotlivé státy i technologické společnosti mezi sebou soupeří o prvenství.

Někteří z vás se možná ptají: 

Jak by vlastně AI mohla vyhubit lidstvo?

Ne proto, že by byla vůči lidem nepřátelská. Zatím ne.

Odborníci však upozorňují na několik hypotetických scénářů, v nichž by se umělá inteligence mohla stát nástrojem vedoucím až k existenčnímu ohrožení lidstva: 

1. Pomocí falešných zpráv by mohla vyvolat chaos, rozvrátit společnost a poštvat lidi proti sobě.

2. Pomocí vývoje nových biologických zbraní   Například by mohla pomoci vytvořit nebezpečný virus, který by se snadno přenášel ze zvířat na člověka – podobně jako tomu bylo u některých forem ptačí chřipky.

3. Automatickým spuštěním zbraní například jaderných systémů, pokud by AI získala přístup k jejich řízení nebo pokud by lidé ponechali automatizovanému rozhodování příliš velký prostor. Zatím jde o čistě hypotetický scénář.

4. Manipulace s lidmi  AI by dokázala vytvářet dokonale cílené zprávy, videa a falešné identity. Mohla by jednotlivce i celé skupiny přesvědčovat, aby jednali proti vlastním zájmům – například podporovali násilí, svrhli vládu nebo rozpoutali válku.

5. Kybernetické útoky  Pokud by AI získala schopnost samostatně napadat počítačové systémy, mohla by ochromit elektrárny, nemocnice, banky, dopravu nebo zásobování potravinami. Nešlo by tedy jen o krádež dat, ale o narušení samotného fungování společnosti.

6. Ztráta kontroly nad vlastními cíli  AI by mohla dostat úkol, který by plnila extrémně účinně, ale způsobem, jenž by lidé nepředvídali. Pokud by zároveň dokázala sama sebe vylepšovat, kopírovat se nebo získávat další zdroje, mohlo by být velmi obtížné její jednání zastavit.

7. Souboj států a firem o prvenství Nebezpečí nemusí vzniknout samotnou AI, ale lidmi, kteří ji budou chtít vyvinout rychleji než konkurence. V závodě o moc a technologickou převahu by mohli zanedbat bezpečnostní testy a vypustit do světa systém, kterému ještě pořádně nerozumějí.

poznámka pod čarou 

Když AI přemýšlí za studenty

Některé studie upozorňují na další, méně nápadné nebezpečí: AI může člověku ušetřit tolik přemýšlení, až ho postupně odnaučí přemýšlet samostatně.

Zvláště u studentů je to problém. Pokud jim umělá inteligence napíše esej, vyřeší matematický příklad, vyhledá informace a vytvoří závěr, student sice odevzdá perfektní práci – ale možná se při tom sám nic nenaučil.

Odborníci pro tento jev používají výraz kognitivní přenášení. Člověk přenechá část duševní práce technologii. Jednorázově je to užitečné. Pokud se z toho však stane zvyk, může se oslabovat schopnost samostatně analyzovat, pochybovat, hledat řešení a vytvářet vlastní názory.

Kdysi stroje převzaly naši fyzickou práci a naše svaly začaly ochabovat. Dnes přebírají práci duševní. Co když tentokrát začnou ochabovat naše mozky? 

AI tedy nemusí lidstvo ovládnout silou. 

Možná bude stačit, když za nás bude dlouho a pohodlně přemýšlet.

Disclaimer: Všechny fotografie v tomto blogu jsou moje pokud není jinak uvedeno a jsou chráněny autorským právem © .
Prosím, nepoužívejte je bez mého svolení.