Хиймэл Оюуны Апокалипсис өдөр тутмын ширээгийн ярилцлагад ордог болж байгаа үед та бид айдасын түгжээс эхнээсээ дээд зэргээр хүрч ирснийг мэддэг болсон. Хоёрдогч AI агентууд өрсөлдөгчдийг хакердаж байна. Өмнөх том технологийн компанийн ажилчид Соёлын сүлжээгээр Skynet төрлийн сэрэмжлүүлгийг тарааж байна. Компанийн удирдагчид тусламж хүсч байна; энэ өмнө байгаагүй технологийн асуудлыг фронт-Line улс төрийн тэмцэл болтол урагшлуулж байна.
Би одоо ч AI-ийн удирдагчдын өөрсдийн үгээс гарсан олон асуудлууд нь ихэнх тохиолдолд өөрсдийн ашиг сонирхолдоо түшиглэдэг гэдэгт эргэлздэг — ялангуяа тэдний компаниуд удахгүй олон нийтэд хувьцаагаа гаргах гэж байгаа үед. Гэвч хиймэл оюуны скандалуудын өсөлт үнэндээ байна. Энэ нь хүчирхэг шинэ технологийг зохицуулах өнөөгийн байдлын тогтолцоо ажиллахгүй байгааг бидэнд хэлж байна.
Одоо хүн бүрийн толгойд хөндлөн тэмдэглэгээ: ямар нэг төрлийн глобал сааруулагч хэрэгжих үү? Их засгийн газруудын хооронд итгэл найдвар байхгүй нөхцөлд богино хугацаанд практик болох AI-ийн аюулгүй байдлын ямар хэлбэр зөв шаардлагатай вэ? Мөн компаниуд өөрсдийн нууц жорыг орхиод дэлхий дахинд уралдаанд нэгдмэл давамгайлалтай байхыг эрмэлзэж байгаа нөхцөлд ямар боломжтой механизм ажиллах вэ?
Одоо хоёр том харилцан яриа яг одоо онлайн-д өрнөж байна. Лхагва гаригт ерөнхийлөгч Доналд Трамп Хятадын дарга Ши Жиньпийг Вашингтон дахь гурван өдөр үргэлжилэх дээд уулзалтын үеэр хүлээн авч буй нь AI-ын эрсдэлд зориулагдах хэсэг байхаар байна. Үүний зэрэгцээ НҮБ жил тутмын Ерөнхий Ассамблейг хуралдуулахад дэлхийн шилдэг AI-компаниудын тэргүүнүүд НҮБ-ыг гарч ирдэг технологийг хянах эсвэл хүн төрөлхтөнг устгалд оруулж болзошгүй эрсдэлд тулгарна гэж шаардав. “AI ирээдүйд бид хяналтаа алдаж болзошгүй” гэж OpenAI-ийн захирал Сам Алтман НҮБ-ын Аюулгүй байдлын зөвлөлийн өмнө хэлсэн байна.
Эдгээр хамтдаа үүссэн айдас дээр тулгуурлан бүгдээрээ тайвнаар нурууны амьсгаа авах цаг үе иржээ.
Ер нь хэлэхэд AI-ийн аюулгүй байдлыг олон жилийн турш бодлого боловсруулагчдын сэтгэлд байлгаж ирсэн, 2022 онд ChatGPT танилцуулагдсан цагаас хойш улам хүчтэй болсон асуудал юм. Засгийн газрууд сонсгол хийж, мэргэжлийн бүлгүүдийг цуглуулж, үүнийг хэрхэн хянах тухай өөрсдийн төлөвлөгөөг боловсруулж байна. Эдгээр нь зөвхөн сонсох гэсэн туршлагаас илүүтэй бодит төлөвлөгөөг дүүрэн гаргаж өгсөн юм.
Гэвч энэ долоо хоногт эрсдэлд орсон шинэ нээлтүүдгүй бол бидний өмнө дэлхийн түвшинд хиймэл оюуны хурдан өсөлтөд хариу өгөх боломж бүхий илүү нэг л хамгаалалтын систем дунд оршиж байна. Энэ нь сайн мэдээ.
Гэвч муу мэдээ нь тэр систем үнэхээр ажиллаж байгаа эсэх нь тодорхой биш, нээх хүртлээ бүрэн туршигдаагүй байна. Тэгвэл тэр юу вэ — дэлхий даяар AI-аас үүдэлтэй аюулын урьдчилсан үйл ажиллагааг цаг тухайд нь мэдэгдэж чадах глобал системийг хэрхэн байгуулах вэ?
Одоо дэлхийн AI-ийн засварлалын бүрэлдэхүүнүүд ямар харагдаж байна
Сүүлийн дөрвөн жилд хамгийн ухаалаг технологийн орнууд — AI-ын тэргүүлэгчид болох орнууд ч энэ нарийн AI-аюулгүй байдлын асуудлаар ноцтой ярилцаж байна. Зарим нь Конгресс ба Вайтым Хаусыг дэмждэг; зарим нь НҮБ, Г7 болон бусад нийслэлүүдэд эрх бүхий шугамдаас ярьж байна.
Би глобал технологийн сэтгүүлчийн үүргээс дуудлагаар энэ асуудлыг нарийвчлан ажиглаж, өнөөгийн нөхцөлийг танилцуулж байна. Энд landscape-ийг ингэж харж байна:
- Үндэсний AI-аюулгүй байдал ба хамгаалалтын институтүүд байна, төрөөс санхүүжүүлсэн байгууллагууд бөгөөд хиймэл оюуны компаниудын хамгийн сүүлийн үеийн бүтээгдэхүүнийг нууж зольд оршиж, түүнд тохирсон үнэлгээ хийж, бусдаас хамгаалах үүргийг гүйцэтгэдэг.
- Компаниуд чөлөөлөгдөх зарчмуудыг өгсөн, олон нь өөрсдийн танилцуулга буюу үүсгэр стандартуудын хамтын төлөвлөгөөг боловсруулж, сонгуулийн нүүр тулгаас хиймэл оюуны аюулд халдахаас сэргийлэх, AI-ээр үүсгэгдсэн гүцсэн илэрхийлэлүүдийн тархалтыг зогсоох, засаг захиргаа ба хувийн хэвлэлд хөтлөлдсөн хүчин чармайлтыг хийж байна.
- Олон улсын түвшинд Г7-хөтөлсөн тайлагнах механизм байна — дэлхийн хамгийн чухал барууны компанийн орнууд энэ механизмыг дэмжсэн бөгөөд түүнд тэдгээрийн сүүлийн үеийн загварууд хэрхэн бүтэгдэж буйг хуваалцах боломжийг өгдөг, түүнтэй зэрэгцээд хамтаар уршгаар учрах эрсдлийг бууруулах стандартуудыг бий болгодог.
- Өнгөрсөн жилүүдэд гарсан шинжлэх ухааны тайланд гэж дэлхий даяар AI-ийн хамгийн дэвшилтэт системүүдийн эрсдлийг жил тутам шинэчилж, засаг захиргаа хамгийн муу тохиолдолд төлөвлөхөд туслах мэдээллийг өгдөг.
Эдгээр бүгдэд юу дутаж байна вэ? Одоо бидний алдагдаж буй зүйл — 2026 оны эцэс хүртэлх хугацаанд AI-ийн аюулгүй байдлын механизмуудыг нэгтгэж, шатрын өргөөн мэт бүтцийг бий болгож, гэнэтийн асуудал гарсан үед яг түүнээсээ ажиллах анхны хариу систем болгож хувиргах зам юм.
Сүүлийн дөрвөн жил замын замд тавигдсан ба зарим шаардлагатай системүүд ч одоо бий болсон. Гэвч огт дэлхий даяар, бодит цаг хугацаанд хариу өгөх систем байхгүй бөгөөд хиймэл оюуны кризис үүсвэл — тэр дундаа олон улс харилцаанд итгэл сулрагдах нөхцөлд — ийм систем байхгүй байна.
Энэхүү долоо хоногийн АНУ–Хятад дээд уулзалт зөв зам руу алхам байж болох юм. Америк улсын зүгээс тавьсан саналуудын дагуу Вашингтон ба Бээжин АНУ-ын Хууль зүйFirst: US Treasury Secretary Scott Bessent ба Хятадын Вице Премьер Хэ Лифэн хооронд AI хэрэг явдал болох тохиолдолд улс орнуудын аюулгүй байдлыг хамгаалах гэсэн утгатай шуурхай холбоог бий болгох эсэхийг ганц хоёрын хооронд байгуулж болох байж болзошгүй.”}
Трамп ба Си-ийн уулзалт ийм дэвшилд хүргэх эсэх нь одоо тодорхойгүй байна. Хятадийн албан эх сурвалжид Вашингтоны AI дүрмүүдийн тухай хүсэлтүүдэд үнэлэлт өгсөн ч, одоогийн байдлаар Конгресс дуустал үйл ажиллагаа явуулж чадаагүй, Хятад улс дэлхий ертөнцийн хамгийн хатуу AI хяналтыг аль хэдийн барьж байна.
AI-ийг “аяүйгүй” болгох ёстой бол энэ хэлэлцүүлэг энэ долоо хоногийн АНУ–Хятадын уулзалтын дараах хугацаанд илүү өргөн хүрээг авч явхаас гадна байх хэрэгтэй. Зөвхөн Вашингтон ба Бээжин тохирсон нөхцөлд байх нь гол асуудлуудыг шийдэхээс хол байж, бусад орнуудыг ч илүү тухайн байдалд оруулж чадахгүй.
Ингээд дараагийн алхмууд юу байх ёстой вэ, үнэхээр биднийг аварч чадахуйц болгохын тулд
Би AI-аюулгүй байдлын мэргэжилтэнүүд ба төрийн ажилтнуудтай ярилцаж байснаар илэрхий тодорхой зүйл харагдаж байна: кризисийн үед энэ бүх системийг идэвхжүүлэх арга зам хэрэгтэй. Улсууд бүгд ижил AI-аюулгүй байдлын бодлого баримталж байхаас хэрэггүй — тэд бүгд ижилгүй байх нь ч хууль ёсны. Гэвч цөмийн зэвсэг шиг — дэлхий түүнтэй тэмцэж, хяналтад оруулж чадсан — аюулгүй байдал нь яаралтай хурдан хариу өгөх глобал тохиролцоог шаардах нь илүү үр дүнтэй байх шаардлагатай.
Одоо хэрэгтэй зүйл нь 90 days-д суулгасан, оролцох боломжтой хурдан хариу арга хэмжээг нэгтгэсэн механизм юм. Би хэрхэн ажиллах талаар хэд хэдэн санааг нэгтгэн дүгнэж байна, хэнд оролцох ёстой гэж үзэж байна. Мэдээж, доор дурдсан ямар ч санаа хангалттай биш ч хамтран ажиллавал дэлхий даяар цар хүрээлэнг нэгэн бодит шийдэл болгон харж, Вашингтон, Бээжин болон бусад нийслэлүүд “AI-аюулгүй байдал” гэж яг юу хэлж буйг тохируулахаас илүү үр дүнтэй байх болно.
Эдгээр бүх сонголтууд одоо байгаа механизмүүд дээр тулгуурласан, өөр бусад бодлогын салбаруудад ажилласан туршлагууд дээр үндэслэсэн ба илүү удаан хугацааны шийдэл хайхад хүргэх тэр үеийн AI-аюулгүй байдлын асуудлыг түр зуурын шийдэл болгон өгдөг.
- Эхлээд хөгжүүлэгчид, AI-аюулгүй байдлын институцууд, ба төрөл бүрийн орноос гарах зохицуулагчид нөхцөл байдал үүсвэл Чернобылийн загварын тодорхой протоколыг үр дүнтэй эргэлдүүлэх тохиролцоонд хүрэх ёстой. Энэ нь OECD-ийн AI Incidents Monitor дээр үндэслэн, юу болсон, юу алдаж буйг олон талын нууцлаг судалгаагаар шалгаж, дараа нь сургамжийн анономгүй дүгнэлт гаргаж нийтлэхийг оролддог.
- Хоёр дахь<|vq_7130|>
