Хиймэл оюун ухаан нь өнөөдөр Испани компаниудын дотор өдөр тутмын хэрэгсэл болсон байна. Хүний нөөцийн хэлтэсээс эхлээд үйлчлүүлэгчийн үйлчилгээ, маркетинг, санхүүгийн анализ эсвэл процессийн автоматжуулалт гэх мэт олон салбарт IA-д тулгуурласан шийдлүүдийг өдөр тутмын үйл ажиллагаандаа улам өргөнөөр нэвтрүүлж байна. Гэвч олон компанийн үйл ажиллагаа нь хууль зүйн эрсдэлийг үнэлэлгүйгээр хэрэглэж буй нь олонтоо ажиглагдаж байна.
Энэ байдлыг Lawesome гэж Бильбао хотод байрлах, бизнесийн зөвлөгөө өгдөг хууль зүйн фирм анхааруулж байна. Тэдний мэргэжлийн нэг хэсэг нь компанийн маргаануудыг үүсэхээс өмнө урьдчилан таамаглах ба урьдчилан гэрэлд авч идэвхжүүлэх үйл ажиллагаа бөгөөд хууль зүйн ажилд хэрэгжих хамгийн чухал хэсэг бол эрсдлийг илрүүлэх явдал гэж үздэг. Lawesome IA-ийг нэвтрүүлэх хурд ба компанийн хууль зүйн үүргээ биелүүлэх чадварын хооронд үүсэж буй зөрүүг өсөх бололтой гэж үзээд анхааруулдаг.
“Проблем нь зөвхөн IA-ийн хэрэгсэл боловсруулах эсвэл худалдан авах явдал биш юм. IA-ийг ашиглаж буй олон компаниуд зохицуулалтын үр дагавар, хариуцлага ба хяналтыг бүрэн ухамсарладаггүй байна,” гэж Lawesome-ийн Гүйцэтгэх хамтарсан захирал Мартин Эгүя хэллээ.
“AI Act”-ийн үе шаттай хэрэгжилт энэ салбарт өгөгч босгон дээд үйл явдлыг тодорхойлох болно. Хууль одоогийн байдлаар хэрэгжиж эхэлсэн ч ихэнх үндсэн үүргүүдийг 2026 оны наймдугаар сараас Европт IA системийг ашиглах компани, байгууллагууд хэрэгжүүлэхээр хэвлэгдэх болно.
Олон компани IA-ийг мэдэгдэхгүйгээр ашиглаж байна
Lawesome-оос онцолж буй гол эрсдлийн нэг нь олон байгууллага IA-ийг ашигладаггүй гэж боддог боловч үнэн хэрэгтээ өдөр тутмын ашиглаж буй програм хангамжийн дотор аль хэдийн багтсан байна: хүний нөөцийн 플랫폼ууд, үнэлгээ тогтоох системүүд, бүтээмжийн хэрэгслүүд, автоматжуулсан туслагчид, CRM эсвэл өгөгдөл дүн шинжилгээний шийдлүүд.
“IA-ийн хэрэглээ нь томоохон технологийн хөгжүүлэлтүүдээс холбогдоод байдаггүй. Ихэнхдээ гуравдагч талуудын үйлчилгээ хангагдсан ба тэдгээрийн хэрэгслүүд дотор идэвхждэг, компанийн дотоод үйл явцад бараг харагдахгүй байдлаар ажилладаг” гэж Мартин Эгүя хэлэв.
AI Act-ны дагуу зарим IA-ийн хэрэглээ нь “өндөр эрсдэлтэй” гэж тооцогдох бөгөөд тэр дундаа хүний шууд оролцоотой шийдвэрүүдтэй холбоотой тохиолдлууд: ажилчдыг сонгон шалгаруулах үйл явц, зээл авах боломж, үйлчлүүлэгчдийг үнэлэх эсвэл зарим үйлчилгээ үзүүлэх зэрэг.
Ийм тохиолдолд компаниуд хүний хяналт, мөрдөн байцаалтын зохицуулалт, техникийн баримт бичиг ба эрсдлийг үнэлэх зэрэг тусгай үүргүүдийг биелүүлэх шаардлагатай болно.
Эдийн засгийн ба нэр хүндийн эрсдэл
Журамд заасан тодорхой үүргүүдийг биелүүлээгүй тохиолдолд их хэмжээний эдийн засгийн торгууль ногдох эрсдэл үүсдэг ба хамгийн ноцтой нөхцөлд компанийн жилийн дэлхийн борлуулалтын 7%-ийг хүрч болзоштой.
Гэвч Lawesome мэргэжилтнүүдийн үзэж байгаагаар гол асуудал зөвхөн эдийн засгийн биш, нэр хүнд ба үйл ажиллагааны эрсдэл ч мөн юм. “Автомат шийдвэр ямар нэгэн хохирол учруулсан тохиолдолд, (жишээ нь нэрлэлсэн хүн дэвшигдээгүй эсвэл үйлчлүүлэгч хасагдсан) асуудал нь алгоритм юу хийв гэдэгээс илүүтэй тэр шийдвэрийг хэн хяналдаж, хэрхэн тайлбарлах вэ гэдэг асуулт болно” гэж тэд онцлов.
Ийм нөхцөлд фирмүүд IA-ийг зөвхөн технологийн асуудал эсвэл үр өгөөжийн асуудал гэж бус харин компанийн засаглалын удирдлага ба хуулийн биелэлтийн асуудал гэж авч үзэх ёстой гэж үзэж байна.
Мартин Эгүяийн хандлага нь “Проблемуудыг урьдчилан харах нь хамгийн сайн шийдэлт” гэдэг батлах үнэн зөв байгааг нотолдог. Тиймээс тэр компаниудад одоогоор ашиглаж буй ямар ямар IA системүүд байдгийг тодорхойлох, тэдний хууль зүйн нөлөөллийг үнэлэх, дотоод хяналтын ба хяналтын протоколуудыг боловсронгуй болгох хэрэгтэй гэж зөвлөдөг.
Асуулт одоо IA-ийг компанийн ашиглаж буй эсэхээс илүүтэй, уг IA-ийг хэрхэн ашиглаж буйгаа тайлбарлахад бэлэн эсэх вэ гэдгийг харуулдаг. Хариулт нь өөрчлөгдөх хэрэгтэй.
