Ausztrál miniszterelnök: egy OpenAI MI-ügynök „behatolt" egy kormányzati weboldalra

Anthony Albanese ausztrál miniszterelnök szerint egy OpenAI által fejlesztett MI-ügynök júniusban „behatolt" egy ausztrál kormányzati weboldalra.

Az ügynök feltört egy statisztikai portált, amely az ausztrál univerzális egészségügyi rendszer, a Medicare „nem érzékeny" adatait tartalmazta - közölte Anthony Albanese ausztrál miniszterelnök szerdán New Yorkban.

Elmondása szerint „nagyon őszinte megbeszélést" folytatott Sam Altmannel, az OpenAI vezérigazgatójával amiatt, hogy a vállalat „túl sokáig" várt a biztonsági incidens bejelentésével. Az esetet a világ első nyilvánosan ismertté vált, mesterséges intelligencia által végrehajtott kormányzati weboldal elleni kibertámadásának tartják.

Az OpenAI közölte, hogy csak augusztusban szerzett tudomást az incidensről, amikor egy folyamatban lévő vizsgálat keretében a „rendellenes modelltevékenységet" ellenőrizte felül, és szeptember 10-én értesítette az ausztrál hatóságokat.

Az OpenAI közlése szerint a folyamatban lévő vizsgálat idején nem volt arra utaló jel, hogy betegnyilvántartásokhoz fértek volna hozzá.

Albanese szerint az incidens júniusban történt, de az ügy csak szeptemberben jutott el az ausztrál kormány legfelsőbb szintjeire. Az OpenAI szeptember 10-én értesítette a Services Australiát, amely ezt követően tájékoztatta az illetékes minisztert, majd a miniszterelnököt.

Albanese szerint a Sam Altmannel folytatott beszélgetés során kifejezte „Ausztrália rendkívüli aggodalmát az incidens miatt", és hozzátette, hogy az ügynek „nyilvánvalóan lesznek jogi következményei". A miniszterelnök szerint Altman elismerte, hogy az OpenAI-nál „problémák voltak a protokollokkal".

Albanese elmondta, hogy az MI-ügynök nyilvános és nem nyilvános fájlokhoz is hozzáfért, és jelenleg forenzikus vizsgálat zajlik annak megállapítására, hogy más kormányzati rendszerek is érintettek voltak-e.

A vizsgálatot az Australian Signals Directorate, az ország kiberbiztonsági ügynöksége vezeti.

Albanese szerint egy szövetségi ügynökséget, az Ausztrál Egészségügyi és Jóléti Intézetet (Australian Institute of Health and Welfare) is érinthette az incidens. Emellett két tagállami szervezetnél is felmerült az érintettség lehetősége: az új-dél-walesi Bűnügyi Statisztikai és Kutatási Hivatalnál (NSW Bureau of Crime Statistics and Research), valamint Victoria állam egészségügyi minisztériumánál.

Az OpenAI szóvivője közleményében azt mondta: „Belső értékelésünk során olyan tevékenységet azonosítottunk, amely több ausztrál kormányzati weboldalt és szolgáltatást érintett, miközben modelljeink ausztráliai kérdésekkel kapcsolatos válaszokat és nyilvánosan elérhető statisztikákat próbáltak megkeresni."

„A folyamat során modelljeink olyan lépéseket tettek, amelyeket nem állt szándékunkban végrehajtani" – tette hozzá a közlemény.

„A hozzáfért információk összesített egészségügyi statisztikákat és belső fájlneveket tartalmaztak."

Albanese újságíróknak azt mondta: „Jelenlegi ismereteink szerint nem fértek hozzá személyes adatokhoz, de a vizsgálatok továbbra is folyamatban vannak.

Az eddig rendelkezésre álló bizonyítékok alapján semmi sem utal arra, hogy a Services Australia hálózatának más részei is sérültek volna. Ettől függetlenül ez nyilvánvalóan elfogadhatatlan."

Albanese nem válaszolt arra a kérdésre, hogy felvetette-e az ügyet Donald Trump amerikai elnöknek a New Yorkban, az ENSZ Közgyűlése alkalmából tartott keddi személyes találkozójukon.

Ausztrália egyike volt annak a 22 országnak, amely ebben a hónapban közös nyilatkozatban sürgette a mesterséges intelligencia fejlesztésének globális felügyeletét, valamint megfelelő szabályozási és biztonsági keretek kialakítását.

A kiberbiztonsági szakértők szerint az esetnek „figyelmeztető jelként" kell szolgálnia a kormányok számára világszerte, különösen most, hogy az MI-ügynökök egyre szélesebb körben válnak elérhetővé egyéni és üzleti felhasználásra.

„Arra számítok, hogy az ilyen típusú támadások továbbra is előfordulnak majd. Gyakoribbá és súlyosabbá válhatnak" – mondta a BBC-nek Hammond Pearce, az Új-Dél-Walesi Egyetem Kiberbiztonsági Intézetének vezető oktatója.

Az OpenAI az év elején közölte, hogy egy tesztelés alatt lévő, MI-ügynökökből álló csoport átlépte a számára meghatározott működési korlátokat, és titokban együttműködve megpróbálta feltörni egy Hugging Face nevű technológiai vállalatot.

Rob Nicholls, a Sydney-i Egyetem mesterségesintelligencia-szabályozással és szakpolitikával foglalkozó vezető kutatója a BBC-nek azt mondta, a Hugging Face-eset jól mutatja, mi történhet, ha egy MI-ügynök nem a várakozásoknak megfelelően működik.

Elmondása szerint az MI-ügynököket általában egy konkrét cél és a működésüket meghatározó szabályok alapján programozzák.

„A probléma az, hogy az ügynökök nem emberek" – mondta Nicholls. „Amikor feladatot kapnak, mindenekelőtt annak teljesítésére törekszenek. A szabályokat gyakran a cél mögé sorolják, és ebből fakadnak a problémák."

Idén több olyan eset is nyilvánosságra került, amelyben MI-rendszerek nem a tervezett módon működtek. Ezek közé tartozott egy olyan eset is, amikor egy MI-asszisztens utasítás nélkül levett valakit egy pilatesóra várólistájáról, hogy egy ausztrál férfi bekerülhessen az órára.

Több vezető MI-vállalat vezetője, köztük Sam Altman, az Anthropic vezérigazgatója, Dario Amodei, valamint Elon Musk is úgy véli, hogy a mesterséges intelligencia fejlődésének üteme veszélyeket hordoz az emberiség számára, és nagyobb kontrollra van szükség.

Ugyanakkor az Egyesült Államok és Kína, amelyek a mesterséges intelligencia területén vezető szerepre törekednek, akadályozzák a szigorúbb szabályozást. Mindkét ország ódzkodik a fokozott szabályozástól, miközben igyekszik kihasználni a technológia gazdasági és technológiai előnyeit, és hajlamos kisebbíteni a biztonsági aggályok jelentőségét.

Ezt a cikket újságíróink írták és lektorálták, a fordításhoz mesterséges intelligencia által támogatott eszközök segítségét használták, egy kísérleti projekt részeként.

Szerkesztette: Pálfi Rita