Az új AI-modellek biztonságosságát még alkalmazásuk előtt közösen tesztelik
Rishi Sunak brit miniszterelnök szerint nem hagyható a technológiai vállalatok kizárólagos hatáskörében a mesterséges intelligencia (artificial intelligence, AI) új modelljeinek biztonsági ellenőrzése.
Sunak, aki a brit kormány által összehívott kétnapos magas szintű nemzetközi AI-biztonsági konferencia csütörtöki zárónapján összegezte a rendezvény eredményeit, kijelentette: jelenleg egyedül éppen azok a vállalatok ellenőrzik az új AI-modellek biztonságosságát, amelyek e modelleket kifejlesztik.
Ez nem maradhat így, ezért az angliai AI-biztonsági konferencia kormányzati résztvevői és az AI-fejlesztő cégek csütörtökön mérföldkőnek számító megállapodásra jutottak, amelynek alapján az új AI-modellek biztonságosságát még alkalmazásuk előtt közösen tesztelik – jelentette be a brit kormányfő.
A Downing Street által csütörtök este kiadott részletes tájékoztatás szerint a konferencián jelenlévő kormányok és AI-technológiai vállalatok egyezségre jutottak abban, hogy mindkét félnek döntő fontosságú szerepe van az új generációs AI-modellek tesztelésében annak érdekében, hogy szavatolható legyen e modellek biztonságossága alkalmazásuk előtt és használatba vételük után is.
Ennek része az olyan tesztelési módszertan kidolgozása, amely a mesterséges intelligencia új modelljeinek potenciálisan káros – például a kritikus nemzetbiztonsági infrastruktúra ellen bevethető – képességeit vizsgálja.
A megállapodás részesei elfogadják azt is, hogy a kormányoknak meg kell győződniük az élenjáró AI-modellek külső biztonsági tesztelésének megtörténtéről. Ezzel megszűnik az az eddigi gyakorlat, amelynek alapján e modellek biztonsági ellenőrzése kizárólag a fejlesztővállalatok felelősségi körébe tartozik – áll a londoni miniszterelnöki hivatal ismertetésében.
Rishi Sunak a Downing Street tájékoztatásához fűzött nyilatkozatában úgy fogalmazott: nem szabad a mesterséges intelligencia fejlesztésével foglalkozó vállalatokra bízni, hogy saját maguk osztályozzák házi feladatukat, és ezzel az AI-ágazat számos vállalata is egyetért.
A brit miniszterelnök bejelentette azt is, hogy a brit kormány az ellenőrzési tevékenység összehangolására – az Egyesült Államokhoz hasonlóan – AI-biztonsági intézetet hoz létre.
Az angliai AI-biztonsági csúcson – amely a brit kormány szerint a világ első ilyen jellegű szakkonferenciája volt – 28 ország és szervezet képviseltette magát, köztük az Egyesült Államok, Kína, India, Japán, Németország, Franciaország, Olaszország, Izrael és Ukrajna, valamint az Európai Unió és az ENSZ.
Az Egyesült Államokat Kamala Harris alelnök képviselte, az EU részéről Ursula von der Leyen, az Európai Bizottság elnöke, az ENSZ nevében António Guterres főtitkár volt jelen a rendezvényen.
Az AI-technológiai szektor legnagyobb vállalatai közül részt vett a rendezvényen az Amazon, a Google, a Google DeepMind, az Inflection AI, a Meta, a Microsoft, a Mistral AI és az Open AI is.
A találkozót Bletchley Park kastélyában, a brit katonai hírszerzés kódfejtésre szakosodott egykori titkos központjában tartották.
Itt működött a második világháború idején az a csoport, amely feltörte a német hadvezetés által megfejthetetlennek hitt Enigma-kódot. Ezt a kódot használták az Atlanti-óceán északi vizein szövetséges konvojokra vadászó, a háború első szakaszában súlyos veszteségeket okozó német tengeralattjárók kommunikációjához is.
A kódfejtő csoportot Alan Turing vezette, akit a modern számítástudomány és a mesterséges intelligencia koncepciójának megalapozójaként tisztel a tudományos utókor.
