Anthropic компанийн аюулгүй байдлын ахлах судлаач хиймэл оюун маш хурдацтай хөгжиж байгаа тул ирэх арван жилд хиймэл оюун хүн төрөлхтнийг устгах магадлал 10 хувиас илүү байна хэмээн анхааруулжээ.
Эван Хубингер өөрийн X хаягтаа одоогийн бидний ашиглаж байгаа хиймэл оюуны загварын учруулах аюул “бага” хэмээсэн ч тун удахгүй технологи илүү боловсронгуй хөгжсөнөөр хүний аюулгүй байдалд заналхийлэл учруулж магадгүй хэмээн санаа зовж байгаагаа нийтэлжээ.
Тэрээр AI систем ирээдүйд хүний оршин тогтнохуйд хэрхэн нөлөөлж болох тухай тайлбарлаагүй ч түүний энэхүү анхааруулга нь өдөр ирэх тусам аюул нь нэмэгдэж байгаа хиймэл оюуны талаарх хамгийн сүүлийн үеийн сануулга болж, “Хиймэл оюун аюултай юу?” гэсэн асуултыг “Хиймэл оюун хэр хэмжээний аюул учруулах боломжтой вэ?” гэсэн асуулт руу шилжүүлэв.
Хубингерийн ийнхүү хиймэл оюуны талаар анхааруулсан пост нь өмнө нь OpenAI болон Anthropic-т ажиллаж байсан хиймэл оюун судлаач Жейкоб Коксоны X дээр нийтэлсэн өөр нэг постын хариу байсан юм.
Тэрээр бичихдээ: “Аль ч компани энэ асуудалд хариуцлагатай хандахгүй байна. Эдгээр систем тун удахгүй юуг ч хакердаж чаддаг, аль ч салбарт нэг л шөнийн дотор хувьсгал хийж чадах, мөн бодит эрх мэдэл болон нөөц баялгийг өөртөө төвлөрүүлэх чадвартай, хүнээс давуу системүүд болох болно” гэжээ.
Харин эдгээр постын хариуд НҮБ-д хиймэл оюуны чиглэлээр зөвлөх хийдэг Дамэ Вэнди Холл Хубингер болон Косон нарын сошиал медиа дахь постыг хараад цочирдсон гэдгээ BBC-д ярьжээ. Тэрээр BBC Radio Four-ийн World at One нэвтрүүлэгт өгсөн ярилцлагадаа Anthropic болон OpenAI компаниуд хөрөнгийн биржид анх удаа хувьцаа гаргахаар уралдаж байгаа энэ үед дээрх мэдэгдлүүдийн зарим хэсэг нь PR маркетинг байх магадлалтайг дурджээ.
Тэрээр үүн дээр нэмэн: “Тэд яагаад ийм зүйл хэлж байгааг ойлгохгүй байна. Хэрэв тэдний үнэт зүйл ийм бол би хөрөнгө оруулагчдыг ийм компанид хөрөнгө оруулахгүй байхыг хүсэж байна” гэсэн байна.
Энэ нөхцөл байдал Сангийн яамны нарийн бичгийн дарга асан, мөн Сэр Кир Стармерын ахлах нарийн бичгийн даргаар ажиллаж байсан Даррен Жонсыг Ерөнхий сайд Энди Бурнхэмд хандан хиймэл оюуныг аюулгүй хөгжүүлэх олон улсын шинэ гэрээ байгуулахыг уриалсан нээлттэй захидал бичихэд хүргэжээ. Тэрээр супер оюун ухааны хөгжилд суурилсан олон улсын гэрээ ямар байх ёстой талаар засгийн газрууд хамтран ажиллах шаардлагатайг онцолжээ.
“Хэрэв засгийн газрууд эдгээр анхааруулгыг анхааралдаа авалгүй, юу ч хийхгүй суугаад байвал хөгжлийн хурдцаас шалтгаалан, бид хиймэл оюун аюул мөн эсэх талаар маргасаар байтал асар том хэмжээний аюултай нүүр тулах болно” гэсэн байна.
Үүний зэрэгцээ Financial Times сонины мэдээлснээр, Anthropic компани хиймэл оюун ухааны эрсдэлийг үнэлдэг дэлхийн тэргүүлэгч байгууллагуудын нэг болох Их Британийн Хиймэл оюун ухааны аюулгүй байдлын хүрээлэнд өөрсдийн хамгийн сүүлийн үеийн загвараа танилцуулж, шалгуулаагүй байна. Мөн тус байгууллага өөрийн ажилтнуудын нийтэлсэн постод хариу өгөхөөс болон загвараа шалгуулахаас татгалзсан явдлын талаар тайлбар өгөхөөс татгалзсан байна.
Одоогоор 10 саяас илүү уншилттай байгаа постдоо Хубингер бичихдээ: “Бид хиймэл оюун хүн төрөлхтний түүхэнд эцэс тавих аюулыг өөртөө агуулж байгаа гэдэгт үнэхээр итгэлтэй байна. Би Anthropic-ийг чадлынхаа хэрээр хичээж байгаа гэдэгт итгэж байгаа ч бидэнд супер оюун ухааны аюулгүй байдлын асуудлыг шийдэх төлөвлөгөө хараахан байхгүй бөгөөд үүнд хүрэх зөв замдаа орсон эсэх нь ч тодорхойгүй” хэмээжээ.
Хубингер нь хиймэл оюуны технологид хүний ёс зүйн хэмжүүр, зарчмуудыг суулгах зорилготой AI нийцэл хэмээх чиглэлээр ажилладаг. Өөрөөр хэлбэл, энэ нь хиймэл оюун ухааныг хүн төрөлхтний үнэт зүйлстэй нийцүүлэн зөв гольдролд нь барих зорилготой юм.
Гэвч салбартаа тэргүүлэгч олон судлаачийн үзэж байгаагаар эдгээр оролдлого ямар ч үр дүнгүй байна. Үүнийг энэ зун бие даан ажиллах чадвартай хиймэл оюун ухааны системүүд буюу AI agent-ууд цуврал кибер халдлага үйлдсэн явдлууд бэлхнээ гэрчилнэ.
OpenAI, Anthropic болон Meta компаниуд бүгд өөрсдийн хиймэл оюун ухааны хэрэгслүүдээр дамжуулан хакердах ажиллагаа явуулсан тохиолдлуудыг нийтэд ил болгосон юм.
Эх сурвалж: BBC
342
