Anthropic компани хиймэл оюун өөрийгөө бие даан сайжруулж, дараагийн үеийн илүү чадварлаг загваруудыг бүтээх боломжтой болох үе шатанд тун ойртсон байж болзошгүйг анхаарууллаа. Энэ чадварыг технологийн салбарт Recursive Self-Improvement буюу өөрийгөө давтан сайжруулах чадвар гэж нэрлэдэг.
Өөрийгөө бие даан сайжруулах чадвар гэдэг нь хиймэл оюун ухаан өөрийгөө сургах, сайжруулах үйл явцыг улам үр дүнтэй гүйцэтгэж, улмаар өөрийн чадварыг хурдацтай нэмэгдүүлэх боломжтой болох үе шатыг хэлнэ. Гэхдээ AI-ийн хөгжлийг огцом хурдасган хүний оролцоо, хүний хяналтаас давсан түвшинд хүргэж болзошгүй гэсэн болгоомжлол байдаг.
Харин технологийн хөгжлийг дэмжигчдийн хувьд энэ нь шинжлэх ухааны нээлт, бүтээмжийн өсөлт болон олон салбарын хөгжлийг урьд өмнө байгаагүй хэмжээнд хурдасгах боломж гэж үзэж байна.
Anthropic-ийн хувьд энэхүү технологи нь асар их боломжийн зэрэгцээ томоохон эрсдэл дагуулж байна. Тус компанийн баримт бичигт “Илүү чадварлаг хиймэл оюун ухаан бүтээхэд AI-г ашиглах нь хөгжлийн хурдыг огцом нэмэгдүүлбэл аюулгүй байдлын ноцтой эрсдэл үүсгэж болзошгүй” хэмээн анхааруулжээ. Мөн өөрийгөө сайжруулах явцад ойртох явцад үүсэх эрсдэлийг хянах, бууруулах төлөвлөгөөгөө хариуцлагатай хөгжүүлэлтийн бодлогодоо тусгасан байна.
RSI гэх ойлголт энэ оны эхээр олны анхааралд орж эхлэхэд олон хүн үүнийг технологийн салбарын шинэ нэр томьёо төдий эсвэл хэрэгжүүлэхэд хэтэрхий төвөгтэй зорилго гэж үзэж байв. Гэвч Anthropic шинэчилсэн баримт бичгийнхээ эрсдэлийн хэсэгт хоёр чухал зүйлийг нэмж дурджээ.
Нэгдүгээрт, тус компани өмнө нь хиймэл оюун ухааныг ашиглан шинэ загварууд боловсруулах явцдаа тухайн үедээ анзаараагүй хэмжээний чадварын ахиц гаргаж байсан байна.
Хоёрдугаарт, компанийн дотоод тооцоолол болон ирээдүйн загваруудын талаарх төсөөллөөр Anthropic өөрийн тодорхойлсон RSI-ийн босгод тун удахгүй хүрч болзошгүй.
Тус компани “Claude-ийг ашиглан хүний хяналт, ойлголтгүйгээр дараагийн үеийн хамгийн дэвшилтэт загваруудыг бүрэн бие даан зохион бүтээж, хөгжүүлэх боломжийг ойрын ирээдүйд аюулгүйгээр хэрэгжүүлж чадна гэж бид үзэхгүй байна. Тиймээс Anthropic-ийн хамгийн дэвшилтэт AI загваруудын хөгжүүлэлтэд хүний хяналтыг хэвээр хадгалах үүднээс бодлогодоо нэмэлт өөрчлөлт оруулахаар судалж байна” хэмээн мэдэгджээ.
Мөн зарим шинжээч тус компанийн мэдэгдэлд шүүмжлэлтэй хандаж байна. Учир нь S-1 баримт бичиг нь хөрөнгө оруулагчдад мэдээлэл өгөхөөс гадна компанийн үйл ажиллагаа, ирээдүйн боломжийг сурталчлах зорилготой байдаг. Тиймээс өөрийгөө хөгжүүлэх чадвартай, асар хүчирхэг AI бүтээхэд ойртсон гэх мэдэгдлийг маркетингийн нэг хэсэг байж болзошгүй гэж үзэх хүмүүс ч бий.
Гэсэн хэдий ч Claude-ийн код бичих, математик болон кибер аюулгүй байдлын чиглэл дэх чадвар энэ онд мэдэгдэхүйц сайжирсан нь сайн үзүүлэлт юм. Anthropic өөрөө RSI-д ойртож буй боломжийг анхааруулж байгаа энэ үед хиймэл оюун ухааны хөгжлийг дан ганц технологийн дэвшил талаас нь бус, аюулгүй байдал болон зохицуулалтын асуудалтай хамтад нь авч үзэх шаардлага улам нэмэгдэж байна.
Эх сурвалж: Techcrunch
558
