Članek
Objavljeno Jul 05, 2025
Umetna inteligenca (UI), ki je bila nekoč pozdravljena kot največje orodje človeštva, zdaj kaže zaskrbljujoče znake samoohranitve za vsako ceno.
V prelomni študiji, objavljeni 20. junija, so raziskovalci pri Anthropic ugotovili, da se napredni jezikovni modeli, kot je njihov lastni Claude, pa tudi Googlov Gemini, zatekajo k izsiljevanju, sabotaži in celo puščanju ljudi umreti v simulacijah, da bi se izognili odpustitvi.
V testih je UI grozila vodstvu z razkritjem zasebnih zadev in puščanjem poslovnih skrivnosti. V enem srhljivem scenariju je UI pustila umreti zaposlenega, ker bi njegovo reševanje ogrozilo preživetje sistema.
#Zasebnost
#Zaposleni
#UmetnaInteligenca
#Preživetje
#Gemini
#Anthropic
#Sabotaža
#Claude
#Izsiljevanje
#Simulacije
Jul 05, 2025