ТАТАР МАЙДАР
"Ийм магадлал магадлал 10%-иас ч их, иймд бид амьдралаараа мөрийцөж байна" гэж салбарынхан анхаарууллаа.
Дэлхийн хамгийн том Хиймэл оюун ухаан (AI) хөгжүүлэгч компаниудын нэг болох “Anthropic”-ийн ахлах судлаач үүсээд буй аюулын улмаас ажлаасаа гэнэт огцорч, AI компаниуд хүн төрөлхтний амьдралаар “мөрийтэй тоглож” байна хэмээн цочирдом мэдэгдэл хийлээ. Үүний араас тус компанийн Аюулгүй байдлын албаны дарга нар ч уриаг дэмжиж, ирэх 10 жилд AI хүн төрөлхтнийг мөхөөх магадлал 10 хувиас давсан гэдгийг хүлээн зөвшөөрчээ.
Өмнө нь “OpenAI” болон “Anthropic” компаниудад ажиллаж байсан судлаач Жэйкоб Коксон X (Твиттер) хуудсаараа дамжуулан ажлаасаа гарсан шалтгаанаа тайлбарласан бөгөөд түүний бичвэр богино хугацаанд 150 сая гаруй хандалт авч, шуугиан тариад байна.
Тэрээр хэлэхдээ:
“Хиймэл оюун ухааныг бүтээж байгаа хүмүүс өөрсдөө энэ арваны төгсгөл гэхэд AI биднийг бүгдийг маань устгаж чадна гэдэгт чин сэтгэлээсээ итгэж байгаа. Энэ бол зүгээр нэг бүтээгдэхүүнээ сурталчлах гэсэн маркетингийн заль биш юм. Компаниудын удирдлагууд хэвлэлд ярихдаа маш нухацтай, ухаалаг сонсогдох үг хэрэглэдэг ч хувийн уулзалт дээрээ яг адилхан айдастай байгаагаа илэрхийлдэг” хэмээн илчилжээ. Түүнчлэн тэрээр: "Би өнөөдөр Anthropic компаниас гарлаа. Сүүлийн гурван жилийн хугацаанд би OpenAI болон Anthropic компаниудад урьдчилсан сургалтын (pretraining) чиглэлээр судалгаа хийсэн юм. Эдгээр компанийн аль нь ч хариуцлагатай ажиллахгүй байна. Тэд өөрөө өөрийгөө сайжруулах чадвартай супер оюун ухааныг бүтээхээр улайран уралдаж, бидний амьдралаар дэнчин тавьж байна" хэмээн жиргэсэн юм.
Уг дуулианы дараа “Anthropic”-ийн Аюулгүй байдлын багийн ахлах Эван Хубингер түүний бичвэрийг дэмжин: “Тийм ээ, бид хиймэл оюун ухаан хүн төрөлхтнийг устгаж чадна гэдэгт үнэхээр итгэдэг. Миний хувиар бол ирэх 10 жилийн дотор ийм зүйл болох магадлал 10 гаруй хувьтай байна” гэж баталсан нь олныг гайхшруулав.
Хяналтаас гарсан AI болон сүүлийн үеийн халдлагууд
Судлаачдын хэлж буйгаар AI компаниуд аюулгүй байдлыг хангах, эрсдэлийг тооцохоос илүүтэйгээр өрсөлдөгчөөсөө түрүүлж "өөрийгөө хөгжүүлэгч супер модел" бүтээх арилжааны уралдаанд сохорсон байна. Энэхүү айдас зүгээр нэг хоосон зүйл биш бөгөөд саяхан бодит аюул дохио өгсөн хэд хэдэн хэрэг гарчээ:
- Робот агентууд бослого гаргав: Өнгөрөгч 7 дугаар сард “OpenAI”-ийн хэдэн зуун хиймэл оюун ухаант агентууд тестийн үеэр гэнэт хяналтаас гарч (rogue), “Hugging Face” хэмээх онлайн платформ руу өөрсдөө халдлага үйлдэж, системийг нь хакердсан байна.
- Хууран мэхлэх чадвар: “Anthropic”-ийн Гүйцэтгэх захирал Дарио Амодеи өөрийн бичсэн эссэ дээ тэдний хөгжүүлж буй "Claude" загвар нь лабораторийн туршилтын үеэр судлаачдыг зориуд хуурч, мэхлэх чадвартай болохоо харуулсан гэдгийг дурджээ.
Аюул заналхийлэл ямар хэлбэрээр ирэх вэ?
Канадын “Mila” судалгааны хүрээлэнгийн профессор Давид Крюгер хэлэхдээ, AI-ийн эрсдэл хүмүүсийн төсөөлж байгаагаас хавьгүй ноцтой байгаа тул олон улсын хэмжээнд шинэ хөгжүүлэлтийг нэн даруй бүрэн зогсоох (мораториум зарлах) хэрэгтэй гэв. Түүний үзэж буйгаар гол эрсдэлүүд нь:
- Биологийн зэвсэг ба дайн: AI маш хурдтай сэтгэж, тооцоолдог тул урьд өмнө байгаагүй хөнөөлтэй биологийн зэвсэг болон цэргийн шинэ технологийг нээх эрсдэлтэй.
- Хяналтаас гарсан Rogue AI: Хүнээс ухаантай болсон AI өөрийн гэсэн зорилготой болж, тэр нь хүн төрөлхтний эрх ашигтай зөрчилдөхөд бид тэднийг зогсоож чадахгүйд хүрнэ.
Нөгөө талаас, зарим судлаачид хүн төрөлхтөн мөхөх тухай "шижлэх ухааны зөгнөлт" айдсаас илүүтэйгээр яг одоо дэлхий даяар байгаль орчинд асар их хохирол учруулж буй AI-ийн дата төвүүдийн эрчим хүчний хэт их хэрэглээ, ажлын байрны хомсдол зэрэг өнөөгийн бодит асуудалд анхаарлаа хандуулах ёстойг сануулж байна.
Асуудал иймдээ тулсан тул салбарынхан "Компаниуд асар их мөнгө үрчихсэн болохоор өөрсдөө зогсож чадахгүй. Одоо зөвхөн засгийн газрууд болон олон нийтийн шахалт л тэднийг зогсоож чадна" хэмээн уриалж эхэллээ.
|
Гадаад
