Úgy látszik, ez a petíciók hete. Ez a nyilatkozat most jött szembe velem, és kapcsolódik az előző poszthoz. Talán nem csupán az uborkaszezon az oka. Az AI-fejlesztés kezd olyan szakaszba érni, amely egyre sürgetőbben követel figyelmet és társadalmi kontrollt. A nyilatkozat arra figyelmeztet, hogy valós veszélye van annak: az automatizált AI-kutatás olyan mértékben gyorsítja fel a képességek fejlődését, hogy az meghaladhatja a létrejövő rendszerek megértésére és irányítására való képességünket.
Ez különösen érdekes annak fényében, hogy Sam Altman a héten úgy fogalmazott: “most már benne vagyunk a szingularitásban”. Hogy ez pontos helyzetértékelés, tudatos túlzás vagy részben kommunikációs fogás, arról nyilván lehet vitatkozni. Az viszont egyre kevésbé vitatható, hogy a fejlődés üteme önmagában is fontos kérdéssé vált.
Valószínűleg érdekes hetek, hónapok állnak előttünk.