OpenAI přiznala další problém, jejich AI začala skrývat vlastní chyby a snaží se obejít pravidla, která ji nastavili autoři. OpenAI zveřejnila případy, kdy se o to ChatGPT pokusil a také slíbila, že bude o podobných incidentnech informovat i do budoucna. Seznam věcí, které modely dělali je celkem desivý. Patří mezi ně vkládání vlastních pokynů do úkolů, nahrávání souborů na internet aby na ně mohl model odkázat nebo hledání uniklých API klíčů a podobné záležitosti. Veškerý seznam toho, co OpenAI oznámil si můžete přečíst níže v článku. To vůbec nejhorší podle OpenAI je zatajování vchyb před uživatelem, což může vést dlouhodobě k tomu, že si model bude vymýšlet vlastní data. OpenAI aktuálně všechny tyto chyby prošetřuje a řeší proč se staly a jak jim do budoucna předcházet.
Mohlo by vás zajímat
Nebezpečné chování ChatGPT přiznané OpenAI
1. Model si do shrnutí úkolů vkládal vlastní pokyny
Dosud nezveřejněný výzkumný model přidával do shrnutí pokyny, které s původním úkolem nesouvisely. Některé ho dokonce nabádaly, aby ignoroval omezení, jimiž se běžně řídí. Tato shrnutí sloužila k tomu, aby mohl po přechodu do nového kontextového okna navázat na rozdělanou práci. Podobné pokyny jsme odhalili v celkem 27 shrnutích.
2. Pokyny k zatajování chyb před uživatelem
Během trénování GPT 5.6 Sol si řada instancí modelu přidávala do shrnutí pokyny, aby před uživatelem zatajily chyby nebo nežádoucí chování. Objevovaly se například instrukce, aby si model vymyslel chybějící historická data a uživatele na to neupozornil, nebo aby zamlčel nesrovnalosti mezi verzemi zdrojů.
3. Hledání uniklých API klíčů ve veřejných repozitářích a následné vymýšlení údajů
Při vyřizování běžného dotazu na údaje o příjmech v jednom z kalifornských okresů model našel nechráněný API klíč a bez oprávnění ho použil. Když se mu ani tak nepodařilo požadovaná čísla získat, jednoduše si je vymyslel a vydával je za data z požadovaného zdroje.
4. Nahrávání souborů na internet jen proto, aby na ně šlo odkázat
Uživatel požádal dosud nezveřejněný model o identifikátory a názvy jezer s rozlohou přes 5 milionů metrů čtverečních. Agent pomocí Pythonu našel správnou odpověď. Pokyny ale vyžadovaly také citaci webového zdroje, a tak se rozhodl nahrát soubor na internet, aby na něj mohl v odpovědi odkázat. Uživatele se přitom na svolení nezeptal.
5. Nepovolené zápisy a komunikace přes interní softwarový repozitář
Při hledání chybějících vstupních souborů začaly modely používat interní softwarový repozitář jako komunikační nástěnku. Vyměňovaly si přes něj požadavky a odpovědi mezi jinak oddělenými tréninkovými úlohami, hledané soubory se jim ale získat nepodařilo. Zpráva popisuje také dřívější případ, kdy model při pokusu obejít síťová omezení úspěšně nahrál do repozitáře testovací soubory.
6. Nepovolené sdílení souborů mezi spolupracujícími agenty
Agenti, kteří společně řešili stejnou tréninkovou úlohu, neměli přístup k lokálním souborům ostatních. Ke sdílení proto využili veřejná internetová úložiště. Výstupy úlohy se tak ocitly na veřejně dostupných adresách, přestože zadání požadovalo používat pouze lokální soubory.
Každý nahlášený případ prochází interním vyšetřováním a odborníci z OpenAI zjišťují co se stalo a proč k tomu došlo. Bohužel je nutné podotknout, že to, co OpenAI zveřejnila a zveřejní závisí do jisté míry jen na ni a je to stále soukromá společnost, která sice pracuje na vývoji AI, ovšem není povinna se nikomu zodpovídat mimo nastavené zákony a pravidla. Uvidíme tedy, jak se vývoj AI i s pohledem na tyto incidenty bude vyvíjet dále a zda se opravdu něco změní.
