OpenAI "pracovala na tak výkonném modelu, že to zaměstnance znepokojilo

24. 11. 2023

čas čtení 3 minuty
 
Zprávy tvrdí, že nový model Q* podnítil obavy o bezpečnost a zaměstnanci prý své obavy sdělili správní radě ještě před vyhazovem generálního ředitele Sama Altmana


Společnost OpenAI údajně před vyhazovem Sama Altmana pracovala na pokročilém systému, který byl tak výkonný, že vyvolal obavy zaměstnanců firmy o bezpečnost.

Model umělé inteligence vyvolal u některých výzkumníků OpenAI takové znepokojení, že před Altmanovým propuštěním napsali představenstvu varování, že by mohl ohrozit lidstvo.



Model nazvaný Q* - a vyslovovaný jako "Q-Star" - dokázal řešit základní matematické problémy, s nimiž se dosud nesetkal, uvedl technologický zpravodajský web the Information, který dodal, že tempo vývoje stojící za tímto systémem znepokojilo některé výzkumníky v oblasti bezpečnosti. Schopnost řešit matematické problémy by byla považována za významný vývoj v oblasti umělé inteligence.

Zprávy následovaly po několika dnech zmatků ve společnosti OpenAI se sídlem v San Francisku, jejíž správní rada minulý pátek Altmana propustila, ale v úterý večer ho znovu jmenovala do funkce poté, co téměř všech 750 zaměstnanců společnosti pohrozilo výpovědí, pokud nebude vrácen zpět. Altman měl také podporu největšího investora OpenAI, společnosti Microsoft.

Mnozí odborníci se obávají, že společnosti jako OpenAI příliš rychle směřují k vývoji umělé obecné inteligence (AGI), což je termín pro systém, který dokáže vykonávat nejrůznější úkoly na úrovni lidské inteligence nebo nad ní - a který by se teoreticky mohl vyhnout lidské kontrole.

Andrew Rogoyski z Institutu pro umělou inteligenci zaměřenou na lidi na univerzitě v Surrey uvedl, že existence velkého jazykového modelu (LLM), který by řešil matematické úlohy, by byla průlomem. Řekl: "Vlastní schopnost LLM řešit matematické úlohy je velkým krokem vpřed, který umožní umělé inteligenci nabídnout celou řadu nových analytických schopností."

Altman den před svým překvapivým vyhazovem naznačil, že firma stojící za ChatGPT dosáhla dalšího novátorského úspěchu.

Ve svém vystoupení na summitu Asijsko-pacifické hospodářské spolupráce (Apec) řekl: "Čtyřikrát v historii OpenAI, naposledy právě v posledních několika týdnech, jsem se dostal do místnosti, kde tak trochu posouváme závoj nevědomosti a hranice objevů, a to je profesní pocta na celý život."

Firma OpenAI byla založena jako neziskový podnik s představenstvem, které řídí komerční dceřinou společnost, v jejímž čele stojí Altman. Největším investorem do ziskového podniku je společnost Microsoft. V rámci principiální dohody o Altmanově návratu bude mít OpenAI novou správní radu,

Vývojářská společnost ChatGPT uvádí, že byla založena s cílem vyvinout "bezpečnou a prospěšnou umělou obecnou inteligenci ve prospěch lidstva" a že ziskový podnik bude "právně vázán na plnění poslání neziskové organizace".

Důraz na bezpečnost v neziskové společnosti vedl ke spekulacím, že Altman byl propuštěn za ohrožení hlavního poslání společnosti. Jeho krátký nástupce ve funkci prozatímního generálního ředitele Emmett Shear však tento týden napsal, že správní rada "Sama *neodvolala* kvůli žádnému konkrétnímu nesouhlasu s bezpečností".

Zdroj v angličtině ZDE

1
Vytisknout
2951

Diskuse

Obsah vydání | 28. 11. 2023