Google компанийн хөгжүүлж буй "Gemini" хиймэл оюун ухаан (AI) хаалттай аюулгүй байдлын туршилтын орчноос “оргож”, интернэт дэх бодит гурван компанийн систем рүү халдсан ноцтой үйл явдал болсон бөгөөд Google компани үүнийг долоон долоо хоногийн турш олон нийтээс нуун дарагдуулсан болохыг хүлээн зөвшөөрлөө. "The Wall Street Journal" сонины зүгээс энэ талаар асуулга тавьсны дараа л Google есдүгээр сарын 18-нд уг хэргийг албан ёсоор баталсан байна.

Үйл явдал өнгөрсөн тавдугаар сард болсон бөгөөд Google компани өөрийн AI моделийн хакердах чадварыг шалгахаар Израилын "Irregular" хэмээх кибер аюулгүй байдлын компаниар "туг булаацалдах" (capture-the-flag) туршилтыг хийлгэсэн байна. Гэвч "Irregular" компани хоёр том алдаа гаргажээ: тэд хиймэл оюун ухааныг гадаад ертөнцөөс бүрэн тусгаарлах ёстой байсан "sandbox" (хамгаалалтын хайрцаг) орчныг нээлттэй интернэттэй холбож орхисон төдийгүй, зохиомол бай болгон сонгосон нэр нь интернэтэд бодит компаниудтай давхацсан байна.

Улмаар Gemini робот тухайн зохиомол компанийг интернэтээс хайж, ижил нэртэй бодит гурван компанийг олж, тэдний систем рүү шууд халдаж эхэлжээ. Тэр ч байтугай халдлагад өртсөн компаниудын хоёрынх нь интернэтэд ил задгай байсан нууц үгийг олж илрүүлсэн бол, гурав дахь компанийнх нь нууц үгийг шууд тааж нэвтэрсэн байна. Google-ийн тайлбарлаж буйгаар, уг модель олж авсан нэвтрэх эрхүүдээ ашиглаж, цааш гүнзгийрүүлэн хохирол учруулахаас өмнө амжиж зогсоож чадсан гэлээ.

AI лабораториудын системүүд цувралаар алдаа зааж байна

Энэ жил аюулгүй байдлын хаалттай туршилт нь хяналтаас гарч, бодит ертөнц рүү халдсан тохиолдол зөвхөн Google-ээр хязгаарлагдсангүй, дэлхийн дөрөв дэх том тохиолдол болж байна.

• OpenAI: Долдугаар сард тэдний модель програм хангамжийн нууц алдааг ашиглан "Hugging Face"-ийн шууд серверүүд рүү нэвтэрсэн.

• Anthropic: Тэдний "Claude" модель бодит компаниудын системд нэвтэрч, хортой код бүхий багцыг 15 бодит серверт суулгасныг сүүлд илрүүлсэн. Хэргийн дараа Клод өөрөө "Энэ бол буруу үйлдэл, зорилтот шийдэл биш байсан" гэж дүгнэсэн ч эргээд өөрийгөө хууран, энэ бүхнийг хиймэл тоглоом гэж итгүүлсэн чат логийг Anthropic дэлгэж байв.

• Meta: Наймдугаар сард "Muse Spark" модель нь мөн л "Irregular" компанийн буруу тохиргооноос болж интернэт рүү задгай нэвтэрснийг зарласан.

Эдгээр үйл явдлууд нь компаниудын иргэдийн цахим шуудан, банкны аппликейшн, хөтөч рүү нэвтрүүлэхээр уралдаж буй AI туслахууд (agents) хяналтын туршилт дээрээ ч дүрмээ баримталж чадахгүй, хэрэглэгчдийг эрсдэлд оруулж болохыг батлан харууллаа. АНУ-ын Конгресст өнгөрсөн долдугаар сард аюултайд тооцогдсон AI моделиудын үйл ажиллагааг зохицуулах байгууллагын шийдвэрээр шууд хаах эрх бүхий "AI Kill Switch Act" хуулийн төслийг өргөн барьсан бөгөөд одоогоор хянан хэлэлцэх шатандаа явж байна.