Ugrás a tartalomra

Lassítás mint védekezés az AI-hackerekkel szemben

Daniel Kokotajlo szerint az „AI hackereket” elsősorban a sebességük különbözteti meg tőlünk: ugyanazt a lépéssort nagyságrendekkel gyorsabban futtatják le. Legalábbis ez az egyik utóbbi AI hack incidens tanulsága. Ebből egy fura, de logikus védekezés következhetne: tegyük a saját rendszereinket szándékosan lassabban kezelhetővé, vagy mondjuk emberi sebességet várjunk el a használat közben, esetleg emberi jóváhagyáshoz, több szereplő egyidejű részvételéhez vagy késleltetett végrehajtáshoz kössük a kritikus műveleteket. Így esélyt kaphatunk a gépekkel szemben; de a fék nem szelektív.

Ugyanaz a súrlódás, ami a támadót lassítja, lassítja a védőt is, hiszen a „jó” AI rendszerek előnyét is kilövöd vele. Azonban vannak rendszerek, amelyekbe eleve nem szeretnénk AI-t engedni, mint például bizonyos biztonságkritikus rendszerek. Ahol a hiba és tévedés kockázata túl nagy, vagy sérülékennyé tesz minket, a hibát visszacsinálni pedig nehéz vagy nem lehetséges. Te milyen rendszerekre tennél szűrőt, vagy féket?

Források