Milyen kockázatai vannak az LLM-eknek rendszer szinten? A nyílt súlyú kínai AI-modellek könnyebben fegyverré alakíthatók, mégsem feltétlenül tőlük ered ma a legsúlyosabb kockázat. A legfejlettebb zárt modellek ugyanis ott futnak, ahol jelentős számítási kapacitáshoz, eszközökhöz és belső rendszerekhez férhetnek hozzá: az OpenAI és az Anthropic laborjaiban. Ez erős alap lehet, ha elszabadulnának.
A nyílt súlyú modellek másféle veszélyt jelentenek: letölthetők, a védelmi korlátaik eltávolíthatók, használatuk pedig nehezen ellenőrizhető. A különbség tehát nem egyszerűen „nyílt kontra zárt”. A zárt csúcsmodelleknél a képesség és a belső hozzáférés, a nyílt modelleknél a széles hozzáférhetőség és a visszafordíthatatlan terjedés növeli a kockázatot.
Ezért a biztonsági vitának a fejlesztőlaborok független és kötelező ellenőrzéséről is szólnia kellene, mielőtt még túl késő. Ha egy rendszer már azelőtt képes elrejteni vagy manipulálni a működését, hogy piacra kerülne, elegendő lehet-e a gyártó saját biztonsági értékelése?