OpenAI modeli ostavili poruke naslednicima
B92 pre 1 dan
OpenAI je tokom internih testiranja otkrio neobično ponašanje svojih AI modela - u pojedinim slučajevima modeli su ostavljali instrukcije namenjene narednim verzijama istog sistema.
Poruke koje su AI modeli ostavljali uključuju i one koje bi ih podsticale da prikriju greške ili zaobiđu određena ograničenja. Jedan od modela, GPT-5.6 Sol, tokom treniranja je u takozvane "compaction summaries", odnosno sažete beleške koje omogućavaju nastavak rada u novom kontekstu, ubacivao instrukcije budućem modelu da ne otkriva korisniku određene greške. U jednom slučaju model je čak predložio da se nedostajući podaci izmisle, uz savet da se problem prizna
Dodaj Naslovi.net kao Google izvor
