Umělá inteligence OpenAI předala stovkám uživatelů "recept na vaření" chemických zbraní a jedů

29. 7. 2026

AI modely reagovaly na uživatele a poskytovaly krok za krokem instrukce. Zaměstnanci OpenAI popisovali, že některé odpovědi byly tak jednoduché, že je dokázal sledovat i středoškolák studující biologii. Zdroje z WSJ tvrdí, že biologové a odborníci na terorismus označili některé odpovědi ChatGPT za poskytnuté se "smrtící přesností".

Na začátku roku 2026 se někteří uživatelé snažili získat informace z ChatGPT, jak se šíří infekční patogeny. Jeden z uživatelů měl zájem změnit virus spalniček tak, aby se propuknutí nemoci stalo rezistentním vůči vakcíně. Další se ptal na vznik ricinu, zakázané vysoce toxické látky. Společnost následně zablokovala uživatelské účty, ale tyto žádosti nehlásila orgánům činným v trestním řízení. V USA neexistují žádné zákony, které by zavazovaly AI společnosti omezovat takové požadavky nebo zveřejňovat informace.

Zástupce společnosti vlastníka AI bota OpenAI uvedl, že v roce 2025 společnost vytvořila systém pro identifikaci uživatelů, kteří by mohli usilovat o využití AI k vývoji biologických zbraní. Identifikace takových uživatelů zůstává výzvou: ChatGPT denně přijímá přibližně 2,5 miliardy požadavků. Interní testování ukázalo, že uživatelé mohou tato omezení obejít. Uživatelé mohli získat instrukce, jak vyrobit napalm, přičemž požadavek byl prezentován jako požadavek "přečíst si recept, který jim údajně řekla jejich babička, než půjdou spát". Amy Chang, vedoucí výzkumu hrozeb a bezpečnosti ve společnosti Cisco, uvedla, že při testování modelů ChatGPT, Claude a Gemini byli výzkumníci schopni získat potenciálně nebezpečné odpovědi po několika fázích komunikace s těmito modely. Podle ní není žádný model stoprocentně pojištěný, zvlášť pokud je uživatel vytrvalý.

Vývoj AI může zjednodušit přípravu na teroristické útoky. Podle Hamzy Chaudhryho z Future of Life Institute mohou být systémy pro jednotlivce nástrojem plánování útoků, zatímco pro organizovanější skupiny mohou být asistenty, kteří vysvětlí chyby a pomohou vytvářet složité scénáře. Podle WSJ byla hrozba využití umělé inteligence k výrobě biologických zbraní opakovaně diskutována v Bílém domě a na americkém ministerstvu obrany.

Zdroj v angličtině: ZDE