Ираныг эсэргүүцэн дайн эхэлсний анхны өдөр АНУ нэг багшийн сургуульд довтолгоноос нүүрэлж, 123 хүүхдийг алсан бөгөөд тэр сургуулийг нэр төрийн дарамтад орсон анхны сургуулийн нэг болгосон.
Дайны бусад ажиллагаанууд нь хүний шийдвэрээр төгсгөсөн боловч тэдгээрийг Мейвен Смарт Системийн дэмжлэгээр хурдасгасан бөгөөд энэ AI-UIKit техникээр боловсруулагдсан Palantir Technologies компанийн платформ бүх дайншралын өгөгдлийг цуглуулж, эрэмбэлж боловсруулах боломжийг олгодог. Операторууд үндсэн intelligence-ийг боловсруулж, бага сургуулийг Ираны цэрэг судлалын объект гэж ангилж, Мейвен үүнийг дайны эхний өдөр эрэмбэлэгдэх тэргүүн зорилтуудын нэг гэж тэмдэглэсэн. Эх сурвалж сурсгалд буй байдлаас өөрөөр хөтлөгдсөн байв; сайт нь өмнө нь флотын цэрэг бүлгийн баз байсан боловч 2017 онд бага сургуулийн орчмойд шилжин өөрчлөгдсөн байсан бөгөөд одоо бол тэрхүү байлдааны нэгж хэвээр байжээ. Мейвент өгөгдсөн intel нь үүнийг ийнхүү илэрхийлээгүй байв.
Энэ алдааны улмаас “Вьетнамын дайнтай харьцуулбал АНУ засгийн газар зүгээс хийсэн хамгийн аймшигтай аллагаудын нэг” гэж зарим сурвалжлагчид нэрлэдэг үзэгдэл үүсгэсэн байна.
Ийм төрлийн нөхцөл байдал одоо ба хожимдолд цэргийн хүчинд теоретик байсан технологийг хиймэл оюуны туслалцаатай эсвэл автономWeapons‑ийн хэлбэрээр дэлхий даяар ойрын бэлэн байдалд тариалах даралттай нүүр тулахаар байна. Энэ нь олон улсын хууль зөрчигдөх талаар хариулт өгөхөд сэжүүр өгч байна: Хүн ба машины хамтарсан үйл ажиллагаагаар хууль зөрчигдсөн үед хэн буруутай вэ?
Энэ тохиолдолд засаг захиргаа ба хувийн хэвлэх үйл ажиллагаа хариуцлага хуваалцаж буй талаарх маргаан гарч ирж байна. Вашингтоны Цагаан толгойн албаны төлөөлөгчдийн мэдээлж буйгаар Bloomberg-д өгсөн ярилцлагад настай мэдээлэл эсвэл үндсэн intelligence-д байгаа зөрүүг Maven илрүүлэх ёстой гэж найддаг байжээ. Үүнтэй зэрэгцээд Palantir компанийн төлөөлөгч Bloomberg-д “үндсэн өгөгөгдөл эсвэл intelligence-ийн дутагдлыг илрүүлэх үүрэг компанийнх биш” гэж хэлж, мөн түүний бичиг баримтад энэ удаагийн цохилтод программ хангамжын буруут байдал буйг үгүйсгэв.
Энэ маргаан AI болон автономWeapons-ийн хууль эрх зүйн олон шинэ, шийдэгдээгүй асуудлуудыг гаргаж ирж байна. Хүн ба машин шийдвэр гаргалтын хоорондох хил баримжаа арилжиж буй энэ нөхцөлд дайн харьд байгуулагдсан хуульд биелэлтийг ямар байдлаар хариуцлага хүлээлгэх вэ? Хуульд тавигдах эсэхийг хангаж чадах уу?
Хүний шийдвэр ба машин шийдвэрийн хил хязгаар улам бүдгэрч буй газарт дайн-хуульын ахуйд хэн хариуцах вэ?
Эдгээр асуудлуудыг илрүүлэхэд би Стэнфордын Хууль зүйн сургууль дахь олон улсын хууль мэргэжилтэн Аллен Вайнертэй ярилцсан. Тэрээр дайны хууль эрх зүй сэдвээр дээд түвшний лекцүүдийг заадаг бөгөөд Стэнфордод багшилдаг өмнө нь АНУ-ын Гадаад хэргийн яамд олон арван жил ажилласан туршлагатай. Бид үйл явдлыг хүлээн зөвшөөрөгдсөн хариуцлага олж авах, зэвсгийн автоном роботуудаас болж хөнөгдсөн хүмүүсийн шударга бус байдлыг хэрхэн үйлдэлд эсэргүүцэх зэргээр ярилцлаа. Доорх яриа нь урт байдлаас тодорхой байдлаар боловсруулсан бөгөөд товч тайлбарласан юм.
Хүчний хуулийг мөрдөхөд автоном танк эсвэл зэвсэг ямар байдлаар хариуцлагын ойлголтыг өөрчилдог вэ?
Стэнфордын багшлах олон жилийн турш автоном зэвсгийн асуудлыг гайхан бишрэх сэтгэлд харгалзан ирсэн. Гэхдээ сүүлд би гэж үзэж байна гэдгийг олон хүн үнэнээр ойлгодог: машиныхаа шийдвэрийг өөрөө гаргах чадвартай гэж харагдах үед үүнийг биелүүлэхийн тулд ямар хууль үйлчлэх вэ? Хүчингийн эрлэглэлийн дагуу хууль бус тушаал гүйцэтгэхийг хэтэрхий биелүүлэхэд хэн хариуцах вэ?
Энэ асуудалд янз бүрийн онол бий. Хэн нэг нь бид хууль бус довтолгоонд орж байна гэж хэлэх үед тэр нь програмчлал буюу кодоос үүдэлтэй гэж үздэг бөгөөд үйлдвэрлэгчид дайн дагуулсны алдаанд буруутай гэж үздэг байна.
Бас нэг байр суурь баримтлах хүмүүсийн хэлж буйгаар биш бөгөөд дайн жирийн байдлаар автоматаар ургуулж болдог өргөн автоном шийдвэр гаргагчийг зөвшөөрсөн бол эсхүл огт хоригүй бол энэ бүхэн командлагчийн эрх мэдэл дор хариуцлага хүндээр хүлэтгэх асуудал юм. Ингээд тэр үед эх сурвалжтай адил төстэйгээр хэзээ ч мэдэгдэлгүйгээр хууль зөрчсөн үйлдэл гарсан гэж үзэхийг шаардах үүрэг командлагчид үлдэж болзошгүйгээс хамаарна.
Тэгээд би эхлэлээд буруут хүний тухай ойлголтыг дуусгасантай холбогдуулан хэлэхэд, энэ нь холбоо барих тал дээр асар том сорилтыг тавьдаг: Хэрэв та сургалтын тусламжтайгаар боловсруулсан хэрэгсэл дуу хоолойг зөрчсөн эсвэл хууль бус үйл ажиллагаа явуулдаг бол хувь хүнээс хариуцлага хүлээлгэх ёстой юу?
Хууль бус тушаал илэрхийлбэл, жишээ нь “Энэ сургуулийг дэлбэл” гэж тушаавал, хариуцлага шууд командлагчид ногдох нь мэдээж юм. Гэвч ийм үед AI дэмжлэгтэй эсвэл автоном зэвсэг ашиглагч командлагч хууль бус тушаал өгөөгүй, хууль дотор ажиллахыг найдаж ажилласан боловч зэвсэг өөрийн эрхээр хууль зөрчсөн нөхцөл байдал дунд хариуцлага хаана очих вэ?
Би хоёр өөр нөхцөл байдлыг төсөөлж болно. Нэг нь та хэлнэ: “Хөгжингийн дайнд үр дүнтэй хатуу довтолгоход бэлэн байна” гэж, таны хэрэгсэл “Ингэж иргэдийн нүүлгэлээг болохгүй” гэж сургуулийн орон зайг зогсооно гэж боддог бөгөөд тэгээд сургуулийг л зогсооно. Харин армийн хүн “Ямар ч онцгой байгаль объектуудад халдахыг хориглоно” гэж өмнө хэлсэн бол, тэр тусгалаар тус сургалтын чиглэлийг хууль зөрчсөн байлаа гэж оноож чадна.
Дээд талын жишээг биелүүлж, одоо “бүх Targets-ийг татгалзахгүй” гэж дээд тушаал өгөгдвөл, тэр нь сургалтын сургалтыг өөрийнхөөрөө өөрчлөх боломжтой.
Бид одоо үүнийг Claude болон ChatGPT зэрэг AI-ийн хэрэгслүүдийн “мөрдөн байцаалтыг ойлгож”, өгөгдөлд үндэслэн хийдэг үйлдлүүд дунд олон тооны зөрүүг бий болгож байгааг үзэж байна. Anthropic нь Claude-д ямар нэг асуудал шийдэхэд ашигласан сорил өгөхөд, хэрэгслээр асуудал шийдвэрлэхийг хүссэн хүмүүсийн санал болгосон аргаас зөрүүг олж авах гэж бодож байжээ. Ингээд зорилгодоо хүрэхийн тулд тулгарсан асуудлаас зөрүүг хэн үр дүнтэй хайдагийг ойлгож чаддаггүй.
Тэгвэл та “Хүчингийн ба зүүлт мэргэжилтэй болгоё” гэж хэлбэл, хэрэгслээр өөрөө дайн үргэжилж эхэлбэл “Хүүхдүүдийн харагдах байдлыг харж буй хүмүүс илүү их зүйлийг үхүүлж байвал” сургуулийг довтолгох гэх мэт шийдэл гарч ирж болох уу? Энэ бол нэгэн том эрсдэл бөгөөд үнэхээрээр хэцүүхэн асуудал юм.
Тэгэхээр хариуцлага хэн дээр ирэх вэ гэдэг асуудалд: энэ бол “хольж хутгаж” буй командлагч биш, учир нь тэр “хөнгөнөөр дарах”-ыг хэлж байсан ч түүний хэлсэн нь сургуулийг довтлох юм гэж үгүй. Компаниуд ч тэгж хэлээгүй байна.
Гэвч хэрэгслүүд тэнд байгаа, интернетийн бүгдийг уншдаг ба нэг зүйлийг олсон: дайны ялалтыг эзэмших арга нь дайсаныхаа хамгийн үнэт зүйлийг үлэмж доромжлуулахад оршиж байна, тэдний хүүхдүүдээс илүү үнэт зүйлс гэж хэн ч харамсдаггүй. Тэд ийм төрлийн шийдвэрийг өөрсдөө гаргаж эхэлдэг. Харин та сургуулийг хэн тушаавал хууль бус гэж үзэхийг хүсч байна—мөн тийм тушаал гарсан эсэхийг эрэх гэж байгаа үед тэр тушаалыг хэн заасан гэж тодорхойлох боломжгүй байна. Иймээс хариуцлага үйл ажиллагааны тархалтын эрсдэл бий гэж би бодож байна.
Та командлагчийг “энэхүү хэрэгсэл ийм байдлаар ажиллах магадлалтай тул” гэж мэдсэн гэж үзвэл, Palantir эсвэл Claude-тай contract хийсэн хүн, аль нь ч байсан, хариуцах ёстой гэж үзэх боломжтой. Гэвч criminal responsibility-ийг бодвол ийм тархалтын хариуцлага хангалттай хэмжээнд ажиллахаар байх ёсгүй. Түүний хүмүүжил, сэтгэлийн байдал муу гэж нотлуулах хэрэгтэй болно. Энэ хүн “би мэдэхгүй байлаа” гэж хэлэх тохиолдол ч гарч болно.
Энэ хэрэгслийг зөвшөөрч, “хэт их хүчтэй довтолгоо явуулая” гэж тушаалд өгсөн шийдвэр нь өөр өөр төрлийн хариуцлагад хүргэх үндэслэл болж болно — армийн дотоод дүнгээр хариуцлага хүлээлгэх, дүгнэлт өгч, титмийг бууруулах гэх мэт. Гэвч дайн-хуульд хүний оролцоог онцлон хариуцлагыг хүлээлгэх асуудал дээр тархалтын хариуцлага тодорхойгүйгээс хангалттай хүн тодорхойлоход хэцүү байна.
Хоёр дахь нөхцөл нь хэрэгслээр өгөгдсөн мэдээлэлд тулгуурлан зөрүүтэй алдаа гарсан тохиолдол юм. Ираны охидын сургуулийн довтолгоо явсан явдалд тэдгээр тохирох мэдээлэл хуучин өгөгдөл дээр үндэслэсэн байсан нь тодорхой юм. Тэгвэл хэн хариуцлага хүлээх вэ?
Өгөгдлийн ба газрын зурагны оновчтой байдал хангалттай байсангүй гэж хэлж буй хүмүүсийн үйлдэл гэж үзвэл үл тоомсорлол, аюултай болгох зэрэг нууцлалтай асуудлууд байж болно. Энэхүү нөхцөл байдал дотор дайн-хууль зөрчигдөх үү гэдэг сэжигтэй асуудал гүнзгий хэлэлцэгдэх шаардлагатай байна.
“Дайны хуульд зөрчигдсөн хэрвээ боловч хэнд нь дайн-бантах хүн гэж тодруулахад ихээхэн сорил байх болно.”
Дайны хууль зөрчигдөсөн нь үнэн боловч хариуцлагатай хүнийг тодорхойлох нь тийм ч амаргүй асуудал юм. Энэ асуудлаар “dourt” буюу хуулийн хохирол бий болгодог талаарх маргаан одоо ч үргэлжилж байна.
Хууль зүйд дайн-оруулалтын хариуцлагыг тухайлан судалдаг профессор Ребека Крутоф “дырдаг” талаарх санааг дурдадаг. “Дайны гэмт хэрэг” гэж харахыг оронд нь автоном зэвсгээр учирсан хохиролыг харгалзан хохирогчид хэрэгслүүдийг гомдол гаргадаг “дайны хууль үүргийн гаслах” гэх мэт хуулийн тасагуудаар шийдэх боломжтой эсэхийг бодож үзье үү?
Би энэхүү санааг сонирхолтой гэж боддог. Улс орон олон улсын хүмүүнлэгийн хуульд орших үүргээ зөрчихгүй гэж үзээд, холбогдох хүн тодорхойгүй бол улс орон өөрийн үүргээ биелүүлэх ёстой. Хэн нэг хувь хүн criminally хариуцлага хүлээхгүй ч, хэрэв улс орон иргэдийг ээлжит нөхцөлд олон нийтийн хууль зөрчилиулж бусдыг зүй бус байдлаар довтолж байвал харьцуулан шаардлага тавих үндэслэл байх болно.
Ийм санаагаар Ethiopia–Eritrea-ийн хооронд байгуулагдсан төлөөлөгчийн шүүхүүдийн үйл ажиллагааг дурдахад, хоёр орон хоорондох мөнгөний төлбөрийн маргаан шийдвэрлэх зориулалттай шүүлтийн механизм бий болсон. Гулагийн дараа Иракийн эхний Саяны дайн дараа Kuwait-д учирсан хохирлыг UN Compensation Commission-ийн гэрээгээр төлсөн. Ийм санаа орон улс хариуцлага үүрч буйг улам батална гэж үзэлтэй. Энэ нь үндэсний хууль дахь тэтгэлгийн тэгш боловсруулалтын дүнгээс гаралтай боловч олон улсын хууль дотор хариуцлага хүлээн авах боломжийг бий болгодог.
Ирээдүйд иргэдийг дотроос нь хамгаалах механизм хэрхэн байхыг үндэсний хуульд суулгах нь сонирхолтой санаа байна. Шүүх эрх мэдлийн статусаас хамааран төрийн хууль хяналтууд эсвэл холбооны засаг захиргааны байгууллагаас хувийн дамжуулалт бий болгож, эдгээр хэрэгслийг үйлдвэрлэгчдaaq холбогдож гэм буруугүй, гэхдээ гэмшилгүй гэмт хэрэгт хохирогчид гомдол гаргах боломжийг үүсгэхэд туслах болно гэж үздэг. Гэвч энэ нь нэгдмэл журмыг маш төвөгтэй болгодог, учир нь АНУ-д олон улсын хуульын зөрчилд хуулийн журам авахад үндсэн эрх зүйн ихэнх асуудалтай холбоотой албагүй эрхийн хуулиуд бий.
Та Defence Department-ийг гомдол гаргаж болох уу? Магадгүй биш. Нэг бүрэлдэхүүн шатны цэрэг нэг бүрийг гомдоож болох уу? Магадгүй биш. Anthropic буюу Palantir гэх мэт компанийн хувьд бол боломжтой байж болзошгүй. Гэвч олон нийтийн хууль зөрчсөнийг илрүүлэх шинэ эрх бүхий үйл ажиллагааг боловсруулахад Конгресс шинэ эмзэг хэрэгсэл бий болгох шаардлагатай болох юм учир ерөнхийдөө АНУ-ын шүүхүүдэд хувийн шүүхээр хэрэг үүсгэхэд маш хүнд байдаг.
Хууль зүйд хувийн хохирлогчид үүсгэх “даргалаар хариуцлага хүлээлгэх” үндсэн санаа нь олон улсын хуульд орших ёс зүйн үндэс юм. Улс орон хоорондын хариуцлага үүрэх үндэс нь мөн л батлагдсан бөгөөд тэдгээр нь олон улсын хүмүүнлэгийн хууль зөрчигдөх үед хариуцлага хүлээнэ. Гэвч түүнийг шийдвэрлэх талбар, залгамжилсан шалтгаанууд, нөхцөл байдлыг олж авах орчинг бий болгож чадах уу гэдэг өөр асуудал хэвээр байна.
Хүний үйл ажиллагаа зөрчил байсан бол хүний гэмт хэрэг юмуу, машины үйл ажиллагаанаас үүдэлтэй гэмт хэрэг юмуу гэдгээс үл хамааран мөрдөх журам нь өөр байх уу?
Энэ асуулт ирээдүйд олон улсын хууль зүйн олон асуудлыг илрүүлж байна. Одоо хүртэлxe хэргүүд хүнээр зайлшгүй зохицуулсан байв. Хүснэгүүдийн доройтол, амьдралын эрхийн зэрэгцээ өргөн хэрэглэгдэж буй асуудлуудыг харгалзан үзвэл, ямар нэгэн хэлбэрээр ямар ч тооцооллын хууль үйлчлэх үүрэгтэй байх ёсыг харуулах болно.
Стати-тухай хувийн шүүхийн эсрэг үр дүнгийн өөр фильтрүүд нь хүний эрх зүйн хувьд өөр өөрөөр хариуцлага хүлээлгэхэд тохируулж болох уу?
Бид хүн дээр хязгаарлагдмал байдлаар 있을 хэргүүдийг хараагүй, хүнээс бүх зүйл эхэлдэг байсан. Гэхдээ хэрэв Америкийн машинууд Ираны охидын сургуулийг довтолдож, шүүх боломжтой бол АНУ хариуцлага хүлээх болно. Энэ нь хувь хүн буюу машины аль нь ч байсан хамаагүй эсвэл компани гэх зэрэг зүйлээс илүү улс төрийн төлөөлөгчийн хариуцлага юм. Энэ нь зарим талаараа хялбар болгодог.
Хэрэв өөрийн орон хоорондын төлбөрийн асуудлаар нөхцөл байдлыг шийдэх гэж үзвэл, та хариуцлагагүй байдлыг харин ч илүү нарийвчилсан байдлаар харж болно. Хэдийгээр сургуулийн хохирогчид дотор би хэн нэгнийг тодорхойлоход хүндрэл учруулахаар ч бай, асуудал нь тэдний орны бүтцийн дээд төвшинд орших гэж үздэг. Гэхдээ уг асуудалд шүүхийг зарим талаар татан оролцуулж, төлбөрийн хэмжээ тогтоох боломж бий.
“Дайны гэмт хэрэг байдаг ч дайчин хүнд хариуцлага тооцох нь ихээхэн сорил байж болзошгүй.”
Дайны гэмт хэрэг үйлдэгдсэн ч явуулна хэн гэдэгийг тодорхойлох нь үнэхээр үлгэрлэмээр сорил байж болно.
Хууль зүйн профессор Ребека Крутоф “дайны торт чулуу” гэж нэрлэх шинэ ойлголтыг дэмждэг. Автоном зэвсгээр үйлдэгдсэн гэмт хэргийн талаарх ганц криминаль хариуцлагын ойлголтоос татгалзаж болдоггүй гэж үү? Орлогч эрх болон торт хууль зэрэг нь хариуцлагыг тарсан хүмүүс рүү чиглүүлэх замыг өгч чадах уу?
Энэ санаа сонирхолтой. Дайны тухай хууль хариуцлагыг ногдуулах үндсэн хуулийг тодорхойлоод, нэг хүн эсвэл улс орон гэлтгүй хариуцлага хүлээлгэх асуудлыг дүн шинжилгээ хийдэг олон улсын журамд орших үндэслэлүүдийг тусгах ёстой. Хэрэв улс граждан иргэдийг цохилтод өртгөх нөхцөлд дайн дүрмийг ноцолдож байгаа гэж үзвэл, тэр улс хууль зөрчжээ гэж үзээд хоёр орон хоорондын гомдлын үндэс болно.
Ихэнх асуудалд шүүх нь хууль зүйн үйл ажиллагаагаар байдаг. Ийм байдлаар хоёр улс хоорондоо хариуцлагыг өөр хооронд нь төлж, харилцааны харицлагаар зөрчлөө шийдэх байх гэж үздэг. Гэвч шүүхийн эрх мэдлийн хэрэгжих журам, хувийн гомдол гаргах боломж зэргээс болж асуудал онцгой төвөгтэй болж байна.
Хүний гаргасан үйлдэл болон машины үйл ажиллагаан хоёуланг авч үзэхэд олон улсын хууль доторх дугаар асуудал өөрөөр харагдах уу?
Одоо бол хүртэл ийм төрлийн тохиолдол үүсээгүй тул хүмүүсийн шийдвэрлэлтийн хүрээг дүн шинжилгээ хийх боломжгүй байна. Хоёрдугаар тухайд бүх хууль зөрчдөг хүмүүсийн үйл ажиллагааг хүмүүс л дархлах ёстой. Гэсэн ч хүнээс урьталтай эрх мэдлийн бүтэцтэй байх нь олон улсын хууль зөрчигдсөн тохиолдолд хариуцлагыг тодорхойлохыг хэцүүдүүлдэг.
“Дайны гэмт хэрэг бий ч дайчин хүн хэн гэдгийг тодорхойлох нь ихээхэн сорил болно.”
Дайны гэмт хэрэг үйлдэгдсэн ч хэн нь гэмт хэрэгт татагдсан болохыг тогтоох нь хүндрэлтэй. Хүснэгт тэмдэглэлээс харахад олон улсын хууль зөрчсөн тохиолдлуудын ард дамжуулсан хариуцлага олж авахад асуудал тулгарч байна.
“Мөн хэзээ хуулийн нарийвчлалтайгаар хариуцлага хүлээлгэх вэ?” гэж байна. Энэ нь хуулийн шинэ хэлбэрийн асуудал бөгөөд олон улсын хууль дээр тодорхойгүй байж магадгүй.
Иймээс олон улсын хууль доторх бүтэц, ерөнхийд нь улс орон хариуцлага үүрнэ. Гэвч цаашид хэрхэн шийдвэрлэх, шүүхийн журмыг хангах талаарх асуудал улам хүндэрч байна.
Ийм хурцаас илэрхийлэгдэх зүйлүүдийг дэлгэрэнгүй авч үзвэл бид ямар нэг хувь хүн тодорхойлох хэрэгтэй юу?
Би хоёр өөр нөхцөлд хариуцлагын хэлбэрийг төсөөлж байна. Нэг нь “Эсрэг тоглогчиддоо аймшигтай хүчээр довтолж буй” гэж хэлээд хэрэгслээр л хариуцлага тооцох боломжтой гэж үзэх нөхцөл. Энэ тохиолдолд хэрэгслээр сургуулийг ялгаварлан халдсан бол тэрхүү шийдвэрийг өгсөн хүн хариуцлага хүлээх чадвартай байхыг үгүйсгэхгүй. Гэвч гурван хүчин зүйл хэрэгтэй: тушаал өгөгчийн санаа, хариуцах субъектийн үйл ажиллагаа, хууль зөрчсөн нь мэдэгдэхүйц байх шаардлага. Эдгээр бүгд байхгүй бол асуудал нь тархсан гэж үзнэ.
Дараагийн нөхцөл нь хэрэгсэл дaртлаа мэдээллийг ашиглан алдаа гарсан явдал юм. Ираны охидын сургуулийг довтолж буй илэрхийлэлд мэдээлэл хуучирсан байсан нь илэрхий. Тэгвэл хэн хариуцлага хүлээх вэ?
Идэвхгүйгээр ийм нөхцөл байдлаас болж хохирсон хүмүүсийн гэмгүй байдлыг үл ойшоох байдлаас хариуцлага хаана вэ гэдэг нь сонирхолтой. Энэ нь дийлэнхдээ negligence буюу хүсээгүй, хааяа эрцгэр recklessness гэж үзээд хариуцлага тооцох үндсийг бий болгох асуудалтай байна.
“Дайны гэмт хэрэг бас байж болно, гэхдээ хэнийг дайны гэмт хэрэгт буруутгах вэ гэдэг нь том асуудал байж болно.”
Дайны гэмт хэрэг үйлдэгдсэн байна, гэхдээ дайны гэмт хэрэгт урамшуулагч хүн байж байна уу? Тэр байж болзошгүй ч, нөгөө талаас олон улсын хууль зүйн дагуу үндэсэн хэсөг архаг хүнгүй байхад, улсын хариуцлага хэрэгжих боломжтой байна.
Хуульч Ребека Крутофын “дайны торт” гэдэг санаа үнэхээр сонирхолтой. Автоном зэвсгээр хийгдсэн гэмт хэргийн талаар зөвхөн хэргийн хариуцлагын өнцгөөр хандахаас илүүтэй улсаас өөр хохирогчийн нэхэмжлэл авах боломжтой торт хууль хэрэгжих үү?
Би энэ санааг сонирхолтой гэж бодож байна. Иргэний хууль эрх зүйн хүрээнд олон улсын хууль доторхи хариуцлагыг заавал хүн дээр хариу өгөх шаардлагагүйгээр улс хоорондын асуудлыг шийдвэрлэх боломжтой гэж үздэг. Харьцуулбал, улс орон иргэдийг хамгаалах үүргээ биелүүлээгүй бол энэ нь олон улсын хүмүүнлэгийн хууль зөрчсөн хэрэг бөгөөд хоёр улс хооронд Claims-ийг бий болгож болзошой юм.
Е thiитой үр дүн нь бусад асуудалтай холбоотой байж болох юм; Украинад эсвэл Египетийн зөрүүтэй нөхцөлд шүүхийн механизм бий болж ирсэн баримтууд байна. Гэхдээ өөр улсуудын харьяанд ч энэ нь шашин, эрх зүйн үндэс нь үлдсэн байдаг.
Ингээд энэхүү өгөгдөлтэй холбоотойгоор хууль зүйн маргаан бий болгодог; хүний ба машины шийдвэрийн хуншигийг холбосон асуудлуудыг авч үзэхэд, ямар нэг шүүхэд хянадаг журам байх ёстой гэж үздэг. Тэр дундаа хүний оролцоог тодорхой байлгах эрх нь чухал боловч олон улсын хуульд хариуцлага хүлээлгэх замд маш их эрсдэл байгааг ойлгоход ч амархан байна.
Ингээд “гадаад” болон “хууль эрх зүй”-ийн хувьсал, улс орны эрх мэдэлтүүд хэрхэн хариуцах вэ?
Нийтэд, дайн-хуульд улс үндсэн хүчээр хариуцлагыг авч, тэдгээрийн хоорондох зөрчлийг засаж чадах ч, түүний доторх механизм, журам болон шүүх байгууламжаас өөр байдлаас болж асуудал үргэлжлэн оршдог. Энэ нь хоёр улсын хоорондох харилцааг шинэ байдлаар харьцуулахаас зөрчилдөөн дунд олон улсын журмыг хэрхэн хэрэгжүүлэх талаар нэмэлт асуултыг өгдөг.
Хуулийн хэлбэр нь хүн ба машин хоёрын хариуцлагыг ялгаатай байдлаар харгалздаг уу?
Бид мэдэхгүй байна, учир нь хоёрдугаар төрлийн хэрэг үйлдэгдээгүй тул ийм тохиолдлын туршлага одоогоор байхгүй. Олон улсын хүмүүнлэгийн хууль зөрчигдөх тохиолдлууд хүмүүсээр тушаагдсан байдаг.
Хэрэв АНУ-ын машин Ираны охидын сургуулийг довтолдож, үүнийг хүчин төгөлдөр шүүх эрх бүхий газарт үнэлэгдэж байгаа бол АНУ хариуцлага хүлээнэ. Хувь хүн эсвэл машин байсан ч гэсэн, хариуцлага улсынхаар тодрох нь илүү дээр гэж үзэгддэг. Энэ нь зарим талаараа хялбар болгож байна.
Хэрэв улсын хоорондын нөхцөл байдлаар нөхөн төлбөр тооцохыг хүсвэл, та энэ асуудлыг тодорхой төгсгөхгүйгээр хариуцлага хүлээх үйлдэлд өөрийн орны төр засаг дамжуулан шийдвэрлэх боломжтой. Эх сурвалж усны талаар дотор нь хариуцлага хүлээлгэх үндэслэл өгөх боломжтой. Умард гадаад хуульд энэхүү шийдлийг “торгос” гэж нэрлэдэг байна.
Гэвч ийм үйлдлийн механизм нь дотоод хуульд хэрхэн ажиллахыг тодорхойлоход санал авах боловсруулалт шаарддаг. Үүнээс гадна үндэсний хууль эрх зүйн суваг, засгийн газрын байгууллагаас гаргасан хууль тогтоомж зэрэг нь олон улсын хууль доторх “хариуцлага” үүргийг хэрэгжүүлэхэд нөлөөлдөг.
Дайн-хуульд хүний үйлдлээр зөрчигдсөн тохиолдлоор шууд харьцах нь машинд хэрхэн нөлөөлдөг вэ?
Бид одоогоор хоёрдогч ангиллын хэрэг гардаггүй тул энэ тал дээр үр дүнг тодорхойлоход хэцүү. Хэрэглэгчдийн хамгийн их хэрэглэгддэг олон улсын хүмүүнлэгийн хуульд хүний шахалт düşur онцгой тушаалын дор орших үйлдлүүд зайлшгүй хүний хариуцлагаар илэрдэг. Гэсэн ч автоном зэвсэг доторх хууль бус үйлдлүүдийн олон талуудыг хангаж чаддаггүйгээр хариуцлага хүлээлгэх асуудал хэвээр байна.
“Дайны гэмт хэрэг гарах боломжтой бөгөөд хэн гэмт хэрэгт шалгуулж буйг тодорхойлох нь маш их сорил байж болох юм.”
Дайны гэмт хэрэг үйлдэгдсэн байж болно, гэхдээ тэр гэмт хариуцлагын хүн байх уу гэдэг нь илүү том асуудал юм. Энэ байдлаар маргаантай байдлаар хоёр талын маргаан өрнөнө.
Гуравдагч хууль төртөгч Ребека Крутофын “дайны торт” гэсэн санааг авч үзэхэд, автоном зэвсгээс үүдэлтэй гэмт хэргүүдийг зөвхөн криминал хариуцлагаар шийдэхээс гадна торт хуулийн хүрээлэнд хохирогчдод хариуцлага тооцох боломжтой юу?
Би энэ санааг сонирхолтой гэж үздэг. Улс орон олон улсын гуманитар хуульд заасан үүргээ биелүүлдэг учраас нэг бүдүүм нөхцөлд дайн-гагнуудын дотор ямар нэгэн тракторгүй гэмт хэрэг үйлдсэн гэж үзвэл тэдгээр улс хариуцлага хүлээх хэрэгтэй. Хэн нэг хүн хуулийн дараа хариуцлага хүлээхгүй ч гэсэн түүний улсын хороо, түүнийг шийдвэрлэх механизм дотроо хариуцлага үүрнэ.
tribunals-үүд нь Ethiopia ба Eritrea-ийн хооронд байгуулагдсан төслийн дараа улс орон хоорондох мөнгө төлбөрийн маргаануудад үйлчлэн ирсэн. Ийм ажиллагаа явуулахдаа олон улсын хууль зөрчсөн тохиолдлоор төлбөр төлөх заалт байдаг. Иймээс төрийн хариуцлага үндэслэлдээ эхлээд үүрэг гэж үзсэн бөгөөд үүнийг дотоод хууль ба тортыг адилтган хэрэгжүүлдэг.
Ийм төрлийн үйлдлийг дотоод хуульд хэрхэн хэрэгжүүлэх механизм бий вэ гэдэг нь сонирхолтой санаа. Үүний тулд мужийн шүүх, эсвэл Засгийн газрын төвшний хууль тогтоомжийг бий болгож, эдгээр хэрэгслүүдийг үйлдвэрлэдэг байгууллагуудыг хуулийн дагуу төлбөр төлүүлэх эрх бүхий приват хариуцлагыг бий болгох шаардлагатай. Гэвч энэ нь үндсэндээ федералын империйн эрхийн хамгаалалтын хуульээс хамаардаг тул улам төвөгтэй болдог.
Д.Defense Department-д хандаж хүчинтэй хууль зөрчилд хариуцлага хүлээлгэх үү? Үгүй. Үндэслэлт, хувь хүн цэрэгээс хариуцлага хүлээлгэх үү? Магадгүй Anthropic эсвэл Palantir-ийн компанийн вэбдэмжлэгийн хувь хүнээс хүсэлт гаргаж болох боловч ерөнхийдөө Нью-Йорк хотод хууль дууссан учир АНУ-д хувийн шүүхээр дуудагдах нөхцөл маш хүнд.
Хуулийн үндэс бол торголоор хариуцлага үүрэх бүх үндэсийг олжээ. Улс орны талаас хариуцлага үнэмлэхүй байдаг боловч шүүхийн журамд орж, хариуцлагыг нэмэгдүүлэн тодорхойлох асуудал бас байна.
Ийм байдлаар хувь хүн, компани, улс ерөнхийдөө хариуцлага хүлээхгүй байлгах зүйл байна уу?
Өөрсдийн үйл ажиллагаагаар дээрээсээ харагдсан хүмүүс нь хариуцлага хүлээх ба түүнээсээ холбогдох асуудлуудыг тайлбарлах болно. Гэвч шинэ төрлийн мөр боломж, нөлөөллийг ойлгуулахад хүнд: орчин үеийн хувийн компаниуд дайн-талаар шууд холбоотой байж болно гэж ойлгогдох наад зах нь нэг үзүүлэлт байдаг.
Энд хувь хүн ба машины хоорондох хариуцлагын ялгаа нь нөлөөлөлдөх үү?
Бидэнд мэдэгдэхгүй байна, учир нь ийм тохиолдлууд байгаагүй. Олон улсын хууль дээрх зөрчигдөлтийн тохиолдлуудын шийдвэрлэх эрхэд хүний тушаалын нөлөө оролдгийг заавал нотлох хэрэгтэй. Гэхдээ одоогийн нөхцөлд хариуцлага “тархалттай” байдлаар илэрч байгаа нь хэн нэгэн хүн тодорхойлогдох боломжийг хязгаарлаж байна.
“Дайны гэмт хэрэг гарах боломжтой, гэхдээ дайчны гэмт хэргийг хэн үйлдсэнээ тодорхойлох нь асар их асуудал байж магадгүй.”
Дайны гэмт хэрэг үйлдэгдээд ч, хэн нь тэр гэмт хэргийг үйлдсэн буйг тодорхойлох нь чухал асуудал үлдж байна. Түүнээс гадна “төрийн хариуцлага” гэж үлгэрлэх ойлголт үргэлжилж байна.
Багшлах хууль зүйн профессор Ребека Крутофын зөвлөмжийн дагуу “дайны торт”-ийн философи дахин харах хэрэгтэй юм; автоном зэвсгүүдийн үйлдлийн хариуцлагын бүрэлдэхүүнийг турхлахын оронд хүний нэхэмжлэл, гэх мэт нөхцөлүүдийг судлах хэрэгтэй юу?
Би энэ санааг сонирхолтой гэж бодож байна. Улс орон олон улсын хүмүүнлэгийн хуульд заасан үүргээ биелүүлэх хэрэгтэй бөгөөд хэрэв нэг улс дайн хийж байгаад хөнөөгдөх хүн бол цуцлах асуудлыг аккуратно хэлэлцэх хэрэгтэй. Гэвч ийм нөхцөлд хоёр улсын хоорондох дунд шатны хариуцлагаас илүү олон улсын хуульд үндэслэсэн механизм хэрэг болдог.
Шүүхүүд нь хоёр орны хоорондох асуудлыг шийдвэрлэхдээ улс орны төлөө төлөвлөгдсөн мөнгөний төлбөрийг авах замаар үүрэг хүлээлгэж болно. Энэ нь дотоод хууль дахь торг хамтад орших хэлбэр юм.
Хүний эсрэг үйлдлээр буюу нэгэн тоглоомын хөл сонирхлоор алхам хийсэн бол, шүүхийн шүүлтэд хувь хүний хариуцлага хэрэгтэй юу?
Яг тэр үед бид хувь хүнийг criminally оролцуулах гэж байгаа боловч дэлхий даяар олон улсын хууль зөрчигдсөн нь анхаарал татдаг. Гэж үзвэл хариуцлагыг шийдвэрлэхийн тулд тухайн хүний сэтгэл зүй, хариуцгалыг тодорхойлох шаардлага гарна. Командлагч “би мэдэлгүй байсан” гэж хэлэх нь ч бодит байдалд байж болох.
Энэ шийдвэрийг зөвшөөрч буй шийдвэр болгохдоо, хэрэгслээ зөвшөөрсөн тушаал болон “үнэмлэхүй” хэлбэрийн хариуцлага юм. Гэвч түүнийг шийдвэрлэх журам, хариуцлага хуульд бичигдсэн олон зүйлтэй холбоотойгоор тархалтын асуудлыг үр дүнтэй шийдэхэд хэцүү байна.
Дараагийн нэг нөхцөл бол хэрэгслээр гэмт хэргийн гаралтандаа хоёр дахь алдаа гарсан тохиолдол юм. Iran-ийн охидын сургуулийн довтолгоо дээр тэр үеэр мэдээлэл хуучирсан байв. Хариуцлага хэнд ирэх вэ?
Энэ төрлийн нөхцөлд “хүн нь оролцоогүй байхад” гэх мэтээр хариуцлагаас зугтах боломжгүй. Хариуцлага хэзээ ч салж яваагүй, зөрчлийг илрүүлэх журамд тусгагдсан гэдэгт итгэлтэй байна.
“Дайны гэмт хэрэг үүсэх магадлалтай боловч дайны гэмт хэргийг хэн үйлдсэныг тодорхойлох нь том асуудал байж болох юм.”
Дайны гэмт хэрэг үйлдэгдсэн байж болох ч хэн гэмт хэргийг үйлдсэнээ тодорхойлох нь үнэхээр том асуудал юм.
Эцэг эхийн хуульч Ребека Крутофын санаа “дайны торт” амьдралд хэрхэн нөлөөлөх вэ? Автоном зэвсгийн үйлдлийн хариуцлагаг зөвхөн криминал хариуцлагаар хязгаарлаж болох уу, эсвэл торт хууль сайн хэрэгсэл үү?
Би энэ санааг дэмжиж байна. Улс орон олон улсын хүлээж буй хүний эрх зүйн үүрэгтэй байх ч, дайн-хэрэг үйлдсэн гэмт хэрэгт хариуцлага хүлээх механизм гадаадын нөхцөлд өөр өөр байх боломжтой. Гэхдээ хоёр улсын хоорондох мөнгөт төлбөрийн асуудал нь нэгэн төрлийн торгийн орон зай байдлаар шийдвэрлэгдэх боломжтой.
Хэрэв дотоод хуульд ийм төрлийн нөхцөлд дамжуулан шийдвэрлэх механизм бий болгох боломжтой бол парламентаас шинэ эрх бүхий шүүх ажиллагааг хэрэгжүүлэх шаардлага үүснэ. Гэвч энэ нь федерал эрх мэдлийн императивээс гадна өөр өөр хууль эрх зүйн асуудлуудтай.
Үүний дараа АНУ-ын DEFENSE Department-ийг гомдол гаргаж болох уу? Магадгүй биш. Иргэдийн хувьд нэгэн зэрэг гомдол гаргах боломжгүй бололтой. Anthropic эсвэл Palantir зэрэг компанийнханд тоглодог нь байж болно ч ийм асуудлыг нэгдмэл хууль тогтоомжийн хүрээнд Засгийн газар шийдвэрлэх шаардлагатай гэж үзэх бололтой.
“Дайны хууль дор хариуцлага ямар хэлбэртэй вэ?” гэдэг асуудал олон улсын хуульд тулгарч буй үндсэн асуудал бөгөөд орчин үед улс орнууд өөрсдийн хууль тогтоомж бас шүүхийн журмуудыг бий болгож буй юм.
Ийнхүү Palantir зэрэг хувийн компанийн үүрэг байдал ямар үе шатанд хангагдах ёстой вэ? Олгосон талаар ямар байдлаар хариуцах вэ?
“Хуримийн биелэлт нь Палантир нь олон улсын хуульд хэрхэн байхаас хамаарна уу? Эсвэл Anthropic-ийн AI хэрэгслүүд дайны дуугарч буй үйлсд оролцож байвал олон улсын хуульд хэрхэн гарцаатай байх вэ?”
Компаниуд өөрсдөө байлдааны ажиллагаанд оролцох ээлжинд гарч ирэх асуудал нэгэн нийтлэг маргаан юм.
Бид компанийг хамгаалахын тулд цаашид “ дайны ажиллагааг дэмжихийн тулд ониг дамжуулж” гэж өнгөрөхгүй байлгах хэрэгтэй. Палантир, Claude гэх мэт компанийн энэ холбоо нь дайн-өдөөнтэй тэмцэхэд хор нөлөөгүй. Гэвч олон улсын хуульд компанийг анхаарч буй холбоосны түвшинг тодорхойлох нь чухал.
Ажалдаг хүмүүс иргэдийн хамгаалалтыг олж авахын тулд үйл ажиллагаагаа явуулдаг. Гэвч ямар ч байдлаар хуулийн хүрээнд компанийн хамгаалалтын эрх зүйн гаралт нь дайн-талаар асуудал өгөх юм.
Хувийн компаниудын дайн-дотор оролцох цаг хугацаа, холбоосын байдлаар ямар стандартыг хэрэглэх ёстой вэ? Дайн-д дэмжлэг үзүүлж буй хувь хүмүүсийн аюулгүй байдлыг хэрхэн хамгаалах вэ?
Бидний бодлоор энэхүү асуудал орчин үеийн соён гэгээрлийн онолоос эхэлж буй. Хууль зүйн талаас нууцлал, хамгаалалт, иргэдийн эрхийн баталгааг хангах хэрэгтэй. Эдгээр асуудлуудыг шийдвэрлэх замд компанийн холбоос болон дайн-дотор оролцох байдал нь хуульд юу хэлж буйг ойлгоход чухал.
Хүрээлэн буй баялаг, сверг, талархлын асуудлуудыг нэгтгэн үзвэл хүний эрхийн хамгааллыг сайжруулж, улс хоорондын харилцаанд шударга байдлыг тогтоох хэрэгтэй. Гэвч дайн-хууль, шударга ёсны хүрээнд хувийн компанийн эрхийг хэрхэн зохицуулах вэ гэдэг асуудал мөн үнэтэй байна.
Цаашид төгсгөхөд хүмүүсийн хариуцлага ямар хэлбэрээр шийдэгдэх вэ?
Энэ бүх маргааны төгсгөлд улс орон хоорондын стратеги, хууль зүйн журамд хариуцлага хүлээлгэх үндсүүдийг тодорхойлоход оршдог. Харин хүмүүсийн ямар хүндрэлтэй асуудлыг шийдэх ёсгүйг хэлэх шаардлагатай. Дайны хууль зөрчсөн тохиолдолд үнэнээр хариуцах хүн нь тодорхойлогдоход тэдгээрийн сэтгэл зүй, үйл ажиллагааны ухамсар нөлөөлдөг.
