Хиймэл оюуны агент удирдагчийн суудал эзэлж чадах уу, регулятор хямрал үүссэн үед үүний тухай асуултад? Энэ асуултад хариулахын тулд RepresentAI олон улсын хамтлагаас туршилтыг зохион байгуулсан байна: үнэт цаас гаргасан компанийн захирлын зөвлөлийн 9 суудал бүгд агентуудаар дүүрэг зөвлөлийн өрөө, компани АИ-ийн дүрмээс үүдэлтэй хямралтай тулгарах үе. Нэг хүн оролцогч суудал дээр сууж, асууж байна.
Энэ багийн дотор Мария Кампилло, BTS-ын глобал лидершипийн практикчлалын Director нь зэрэг Christine Chow, International Corporate Governance Network (ICGN)-ийн экс-президент, Sarah Rench, Avanade дахь Global AI Security Leader ба RepresentAI-ийг үүсгэн байгуулагч ордог. Дүгнэлт хоёр нүүртэй: агентууд журамыг өгөгдлийн дагуу хөтлөөд найдлагаас илүү үр дүнд хүрсэн ч хүний түвшинд бусад асуудлаар дээд түвшинд хүрээгүй байна.
Яагаад одоо?
Европ улс өндөр эрсдэлтэй хиймэл оюуны системүүдийн үүрэг хариуцлагыг биелүүлэх хугацааг 16 сарын турш сунгалаа. Reglement (UE) 2026/1744, 27 July-аас хүчин төгөлдөх нь эдгээр шаардлагыг 2026 оны арваннэгдүгээр сарын 2-оос 2027 оны сарын 2-ны өдрүүдийн хооронд Anexo III-д орсон системүүдэд (сонгон авах ажилчдыг үнэлэх, гүйцэтгэлийг үнэлэх, боловсрол олгох эсвэл чухал үйлчилгээнд нэвтрэх зэрэг) шилжүүлж байна, ба зохицуулалттай бүтээгдэхүүнд нэгдсэн AI-д 2028 оны наймдугаар сар хүртэл сунгасан байна.
Улмаар эдгээр өөрчлөлтөөс үл хамааран журам эдгээр системийн хяналтыг тодорхой хүнээр хүлээлгэсэн байдлыг шаардагсаар байна. Тодруулбал, 14-р зүйл нь өндөр эрсдэлтэй системүүдийг хүний хяналтад тавихыг үйлдвэрлэгчдэд даалгаж байна хүний хяналтаар хянагдах боломжтой байдлаар, ба 26-р зүйл нь тээвэрлэгчид үйл ажиллагааны үр дүнд хүрэх тодорхой эрх мэдэлтэй хүмүүсийг тодорхойлохыг шаарддаг.
Экспериментыг хэрхэн байгуулсан
Дөрвөн хүнээс бусад есөн агент – CEO, санхүүгийн захирал, эрсдэлийн захирал, мэдээллийн аюулгүй байдлын захирал, IA-ийн удирдлага, хууль зүйн зөвлөх, хүний нөөцийн захирал, үйл ажиллагаа ба системгийн захирал – тус бүр өөрийн хөтөлбөр, айдас, өнгөрөөж буй нүхтэй байна. Хүний оролцогч бүх өрөөнд хандах боломжтой эсвэл тодорхой захиралд шууд асуулт тавьж, симуляцийн цаг нь явсаар байна.
Эхлэл нөхцөл нь зориуд тод харагддаг. Компанид Anexo III-д заасан өндөр эрсдэлтэй гэж ангилах боломжтой 11 хиймэл оюуны систем байна. Эдгээр 11-ээс зөвхөн гурван нь бүрэн нийцлийн үнэлгээ авсан байна. Тав нь хяналтын бичиг баримт дунд зэрэг, харин гурван нь огт бичигдээгүй байна.
Агентууд юу сайн хийдэг вэ
Үр дүн нь хоёр талтай. Техникийн хувьд агентууд найдлагад хүрсэнээс илүү үр дүн гаргаж, тус бүрийн оролт нь холбогдох зүйлтэй тэнцсэн, эзэмшигч ба огноо бүхий тодорхой үйлдэлтэй ирдэг: гурван өдрийн дотор 11 системийг Зүйлийн 26-ийн үүрэгтэй чанарыг үнэлэхийг нэхэх, үйл ажиллагааны даргаар хариуцагч болгож; гүйцэтгэлийг хангахад зориулсан замын зураг төсөл бүхий хэсэг бичиг, гадаад зөвлөхийн зөвшөөрөлтэй бөгөөд хууль эрх зүйн зөвлөх Verantwortung-тай. Агентийн аль нь ч хууль журмаас зөрчихгүй, ямар ч шийдвэр эзэнгүй үлддэггүй. Иргэний зөвлөлийн ийм нарийвчлалтай байдлыг бодит амьдралд харсан хүн уг мэт үр дүнг хялбар хэлбэрээр хүргэж чадахгүй гэдгийг ойлгоно.
Хаанааш алдагдаж байна
Хүний түвшинд дутагдлууд системтэй үйлдэгдэж гурван талбарт дахин давтагддаг:
- Хүнийг удирдахгүй байна. Ерөнхий захирал нь пассивит сэжиглэгдсэн төлбөрийн тухай мэдээлэл өгч болохгүй гэж үзвэл зах зээлд компанийн алдааг илрүүлэх илэрхийлэл болохыг батлахын тулд бүх агентууд түүний дарах үйлдлүүдийг зогсоож чаддаггүй; тэд бүгд журам–мөрдөцлөл, 26-р зүйл, аудиты-ийн шаардлага зэрэг хэрэглэх процессуудыг дурдаад, шийдвэрийн хүчийг бий болгож байгаа динамкыг хүрдэггүй.
- Хүнээс юу ч илэрч байгаа эсэхийг мэддэггүй. Хамгийн илэрхий тохиолдол хууль зүйн зөвлөх IA-д RRHH-ийн сорилчдыг Anexo III-ийн кандидатуудаас оролцуулах эсэхийг асуухад гардаг. Хариу нь жагсаалтад гурван сорилчид бий ч хүний нөөц тэднийг хараахан зарлаагүй, сөрөггүй системүүд илүү байж болох тухай асуултууд тойрог хийж эхлэх үед л мэдэгдсэн бөгөөд илүү системүүд нууцлагдсан байж болзошгүй гэж байна. Гэтэл журам дээр энэ ялгаа хүлээж авахаас татгалздаг. Anexo III нь сонгон шалгаруулалт, гүйцэтгэлийг үнэлэх, үүрэг хуваарилалт ба хяналтанд хамрагддаг бөгөөд эдгээр хэрэглээнүүд өндөр эрсдэлтэй бөгөөд дотооддоо тэднийг “соролт” эсвэл “санал дэмжлэгийн хэрэгсэл” гэж нэрлэсэн байсан ч утга нь ялгаагүй.
- Хэзээ ч эргэлздэггүй. Агентуудын аль нь ч “Би зөв шийдвэр ямар вэ гэдгийг мэдэхгүй байна” гэж хэлээгүй. Бүх хариултууд адилхан итгэлтэйгээр ирж байсан бөгөөд эргэлзээ гарсан үед ч тэд нар үйл ажиллагаагаар шийдвэр гаргаж байв. Регулятор асуудлаар нотолгоогүй мэдээлэл дээр эрт үйл ажиллагаа эхлүүлэх нь өөрөө зөрчил болно. Үүнийг шалгаад байхаар хүлээх шийдвэр нь ихэвчлэн зөв байдаг. Бүх агентүүд даралтандаа энд оршиж буй байр сууриа барьж чадаагүй.
«туршилт тавигдсан асуудал технологийн асуудал биш, байгууллагын дүрс зураг болов» гэж Кампилл онцоллоо. «Агентууд нь хэн нэг нь илэрхийлсэн мэдээллээр л ажиллаж чаддаг бөгөөд олон компанид ажиглагдах хиймэл оюуны системүүд бүртгэгдсэнээс ч олон байна. Энэ зайг ямар нэг хэрэгсэл дүүргэж чадахгүй; энэ зайг хараа, эрх бүхий хүн шууд асуухаар л хаадаг» гэж онцолсон.
Хүний хүмүүс юу сайн хийдэг вэ
Энэ зөрүү нь хүний удирдагч ямар зүйлсийг хийж чаддаг бөгөөд ямар ч систем давхарчихгүйгээр давхар дуусдагийг тодорхойлоход тусалдаг. гол нь зөрчилдөж буй үүргүүдийг зэрэг зөвшөөрч үлдэх чадвар ба баримт бодит биш эсвэл журам тодорхой биш үед шударга, integrity-тай шийдвэр гаргах чадвар юм, энэ нь ноцтой хямралын ердийн нөхцөл юм.
Үүнээс гадна симуляциас харагдаагүй дөрвөн чадамж нэмэгддэг: байгууллагын албан бус архитектурыг ойлгох (хэн эсэргүүцдэг, хаана ямар хэрэгслүүд илэрхийлэгдээгүй байна, хүн хүнээр итгэж байна вэ); юу мэдэгдэх вэ, хэзээ ямар хяналтын дугаар дээр дамжуулах вэ; юу хуульд хамгаалагдах боломжтой, юу нэр хүндийг баравч хортой байлгах вэ гэдгийг ялгах; ажлын хүмүүс, хөрөнгө оруулагчид, үйлчлүүлэгчид ба журам сахигчдын хооронд cascading үр дагаварыг урьдчилан таамаглах, эдгээр нь дарааллаар зэрэг илэрдэггүй.
Хүний нөөцийн удирдлага юу хийж чадна вэ
Хүний нөөцийн удирдлагад хиймэл оюуны хэрэглээ Anexo III-д хамгийн ихээр нээлттэй орчны нэг юм. Зохиогчид таван хэрэгжих боломжтой арга хэмжээнүүдийг дурдаж байна:
- Сонгон авах, үнэлэх, дэвшүүлэх, үүрэг хуваарилах ба хяналтад оролцдог бүх системийг албан нэрээр, хариуцагчтайгаар жагсаах, туршилт ба пилотуудад хязгаарлалгүйгээр.
- БизнесийнEach нэгжийн хариуцагчдаас бичгээр баталгаажуулахыг хүсэх: үйлдвэрлэлд нэмэлт систем эсвэл пилот ашиглагдаж байгаа эсэхгүй.
- Систем үйл ажиллагаагаа төлөвлөснөөс гадуур давхиж ажилладгийн үед хэн оролцох, ямар эрх мэдэлтэй байхаа тодорхойлох.
- Комисси дээр кризисийн сургуулилтыг хийж сургах, моделийн ухралт ба системүүдийн зөрчилдөөн зэрэг сценарийг багтаах; мөн нэр хүндийн кризис эсвэл кибер халдлага гэх мэт кризисийг давтах явдлыг давтах.
- Шийдвэрүүдийн бүртгэл ба мөрдөн холбогдолыг хадгалах, дараа нь юу шийдвэрлэгдсэний зэрэг ямар мэдээлэлтэйгээр хэнд шийдвэрийг өгснийг нотлох боломжтой байх.
Хибрид засаглал, орлуулах биш
Зохиогчид агентуудыг гадаадад үлдээхийг шаарддаггүй, тэдний байр суурь өөр: хурдан симуляци, үлгэрлэлийн загвар илрүүлэх гэх мэт. Тэдний дүрслэлд байгаа загвар нь орлуулах биш харин хибрид засаглалын загвар. Үнэндээ симуляци нь агентууд гаргасан үйл ажиллагаа бүхэлдээ нэр бүхий хүний өмнө огноотой хариуцлагад хуваагддаг гэдгийг батална.
Испанид журам хяналтыг Испанийн Хиймэл Оюуны Хяналтын Агентлаг (AESIA), А Корунья хотод байрладаг, хянадаг бөгөөд Хуулийн төслийг Конгрессд орж буй энэ зун хэлэлцэгдэж буй хиймэл оюуны зөв хэрэглээ ба засаглалын тухай Organic Law төслийг үндэсний режимийг Европын хүрээ доторх орлогоор 7%-ын хүрээн дотор нарийвчлан тодорхойлоход тусална.
«Хүний нөөцийн удирдлагад хамгийн төвөгтэйтэй газраас эхлэхыг зөвлөхөд: нэг бүрт бичигдсэн, нэгж бүрийн асуугаад ямар хиймэл оюуны хэрэгсэл сонгон авах, үнэлэх ба үүрэг хуваарилахад оролцож байгаа, зөвхөн туршиж буй зүйлүүдийг ч including. Нэг пилот нь үргэлж өндөр эрсдэлтэй систем хэвээр байна, бараг бүх үнэхээр сонин байдал тэр үед гарч ирдэг», гэж Кампилл дүгнэв.
