AI компаниудын удирдагч нар Сэм Алтман (OpenAI), Демис Хасабис (Google DeepMind), Дарио Амодеи (Anthropic) нар маш олон асуудлаар санал нийлэхгүй байна: технологи хэзээ, ямар хурдтай хөгжих вэ, үүнийг зохицуулах хамгийн тохиромжтой арга, хүнээс илүү ухаантай AI-т нийгмийг хэрхэн бэлтгэх зэрэг олон сэдвээр.
Тэд 85 гаруй технологи, биологи, үндэсний аюулгүй байдлын бодлогын мэргэжилтэнтэй нэг CSV-рагт сэтгэгдлийг авч, ген синтезийн асуудлаар илүү баталгаатай журам шаардах нээлттэй захидалд гарын үсэг зурсныг нь гайхалтай байдлаар онцолж байна. Тэдний бүгд AI системүүд ген синтезээр бүтээгдсэн, лабораторид онцгой химийн аргаар DNA-ийн хослолуудыг өөрөөр эргүүлж, хүндрүүлж, аюултай биологийн зэвсгийг боловсруулахад ашиглагдах магадлалыг үүсгэж болзошгүй гэж санаа зовж байна.
Эдгээр нарийн үнэтэй, хатуу өрсөлдөөнтэй AI компаниудын олон CEO ямар нэг зүйлд нэгдэх нөхцөл тавигдаж байна гэдгийг дурдахад маш гайхалтай. Гэхдээ энэ зөвшилцлийг хэрхэн олж авснаа ойлгохын тулд ген синтезийн талаар ойлголт авч, ямар ажилладаг, AI-ийн тусламжтай ашиглах магадлал ирээдүйд яагаад айдас төрүүлж байгааг ухрах хэрэгтэй.
Өнөөгийн микробиологи нь ген синтезд ихээхэн зээлтэй. Судлаачид лецэнз бүхий DNA нийлүүлэгчдээс синтетик генүүдийг захиалан шинэ вакцинууд, эмүүд, төрөлхийн өвчний ген эмчилгээг бий болгож, гематофили зэрэг өвчний эмчилгээнд туслах аутагийн химийн бүтэц бүхий байдлуудыг боловсруулдаг; хүний инсулин үйлдвэрлэх, хөдөө аж ахуйн үр ашгийг нэмэгдүүлэх зэрэг олон зорилгоор ашигладаг. Ген синтез нь CAR‑T эсийн эмчилгээ гэх мэт олон тохиолдолд үнэлэгдэх үндэсний технологи бөгөөд олон талаараа оношлогоо хийх хэрэгсэл юм. Дэлхий даяар синтетик ДНАД-ын эрэлт өсч байна, генийн код бичих нь ер нь өмнө байгаагаас илүү хямд, хялбар байжээ.
Гэвч энэ хүчтэй технологи шийдэмгий аюултай эрсдэлтэй хамт ирдэг. Хүний амь насыг аврах шинэ ген эмчилгээ хийж чаддаг технологи нь тодорхой нуклеотидуудыг өөр дарааллаар цуглуулж, амьдралын бүх кодыг өөрчлөхөөр өөр төөрөлдөх замаар ноцтой патоген үүсгэхэд туслах чадвартай байж болно.
Ихэнх АНУ‑ын компаниуд ген синтезийн үйлчилгээгээр өгөгдлүүдэд эрсдэлтэй дарааллууд байгаа эсэхийг шалгадаг, патоген болох магадлалтай эсэхийг хянана, үйлчлүүлэгчид хууль дүрэмд нийцэж буйг нь баталгаажуулдаг. Үүнийг тэд өөрсдийн хүсэлтээр хийдэг бөгөөд эрсдлийн тухай сайн мэдэж байдаг.
Гэвч бүх ханган нийлүүлэгч үүнийг хийдэггүй. “Хэрэглэгчийн шалгалтыг волонтари байдлаар хадгалвал зарим компаниуд үүнийг хийдэггүй,” гэж Инженерийн Биологийн Судалгааны Консорциумын аюулгүй байдлын хөтөлбөрийн захирал Бекки Маккелпранг нараас онлайнаар хэлсэн. Мөн муу этгээдүүд илүү сул журмитай ген синтезийн компанид орж магадгүй тул үүний үр дагавар бол хүрээлэн буй айдас юм.
Бид одоо хүртэл азтай байсан. “Энэ технологи 20 гаруй жил зах зээлд хэрэглэгдэж ирсэн ч хэн ч гай буруугаар ашиглаж байгаагүй байгаа нь үргэлжлэн байгаа,” гэж ген синтезийн Twist Bioscience компанийн бодлого, био аюулгүй байдлын дэд дарга Жеймс Дигганс нараас цахим шуудангаар хэлсэн.
Гэвч AI нь асуудлыг илүү төвөгтэй болгох магадлалтай, эрсдлийн шинэ өмнө тал ашгийг нээж өгдөг.
Хоёр том хэлний моделиуд (LLM) болон AI биодизайн хэрэгслүүд эрдэмтдэд шинэ төрлийн генийн дараалал боловсруулах боломжийг өгдөг. Энэ нь аж үйлдвэр, эмийн үйл ажиллагаанд ашигтай давуу тал боловч өнөөгийн шалгалтын системүүдэд сорилт болдог: танил үнэтэй, мэдэгдэж буй муу дамжуулалтын дараалалтай төстэй байдлыг ашиглан аюулын эрсдэлийг илрүүлэх боломжтой, гэхдээ шинэ дараалал байхад хүндрэл учруулдаг. Урьдчуулсан судалгаа Science сэтгүүлд өнгөрсөн жил тавигдсан бөгөөд манай шалгалтын системүүд AI-ийн чадвартай одоогийн байдлаар дэмжлэг үзүүлж байна гэж үзэж байлаа одоогоор. “Гэсэн ч үйлдвэрлэл эрхлэгчдэд энэ нь үүрийн асуудал болсон гэдгийг салбар ойлгож байна,” гэж Дигганс хэлсэн.
Маккелпранг AI нь өмнө үүсдэг биологийн зэвсгийн төсөөллийг бий болгодог мэдлэгийн барьцааг цуцлахыг сааруулж чадах эрсдлийг бууруулах магадлалтай гэж болзошгүй гэж үздэг. Frontier AI системүүд, жишээлбэл, нарийвчилсан лабораторийн туршлагатай мэргэжилтэн вирусологчдын өмнө илүү үр дүнтэй байна гэж харагдаж байна.
Гэвч мэдлэг бий гэж байлгадаг ч биологийн лабораторийн ажил нь үүргийн чухал хүнд хэцүү байна. “Эрдэмтэд алсын төлөвлөгөөг хэрэгжүүлэхийн тулд бусадтай зөвлөлдсөний дараа ч мөн дүнг гүйцээн туршиж үздэг. Би дэмждэг ч AI нь биологийн сургалтын ямар ч хүнгүйгээр ноцтой аюул үүсгэх боломжийг олгодоггүй гэж боддог,” гэж Маккелпранг хэлэв.
Үүнийгээс ген синтезийн компаниуд шинэ дарааллуудыг бүтээх хэн нэгний замыг чухал chokepoint хэвээр байна. Маккелпранг-ийн гол санаа нь AI-ий тусламжтайгаар осолд тохиолддог муу биотеррористууд өнөөдрийн буюу ирээдүйн шалгалтын системүүдээс зугтаж орших мөн л боломжтой гэж үздэг. “Далд бүлэг ашиглалтууд ойр үедээ маш бага байх боловч үр дагавар ихсэж, технологи хурдтай хөгжиж байхад бид хэсэгчлэн урьдчилан сэргийлэх бодлого боловсруулсан байх үүрэгтэй,” гэж тэр хэлэв.
Ген синтезийн ашиг тусыг дугаарч, эрсдэлийг нь багасгах нь хэцүү боловч боломжтой. Иймээс Дигганс, Маккелпранг нар нь Алтман, Хасабис, Амодеи зэрэг ген синтезийн ханган нийлүүлэгчид, технологийн кәсіпкерлер, амь судлалын удирдагчид, үндэсний аюулгүй байдлын экспертүүдийн хамтарсан нээлттэй захидлыг гарын үсэг зурсныг дурдсан юм.
Энэхүү захидлыг Institute for Progress ба Foundation for American Innovation гэсэн бодлогын байгууллагууд хамтран зохион байгуулахдаа нийлүүлэлтэд оролцсон ханган нийлүүлэгчдэд синтезийн захиалгыг бүртгэх, дарааллын мэдээллийг бүртгэх шаардлагыг тавьж, биоаюлгүй байдлын шалгалтыг сайжруулахыг уруу илэрхийлжээ. “Эх сурвалжид харьяалагдах аливаа аюулыг илрүүлэхэд зориулагдсан мөрдөн шалгалт эхлээд л зөгнөлд оролцох хэрэгтэй” гэж захидал бичжээ. Ингэснээр Маккелпранг-ийн AI нь одоо байгаа шалгалтын журамд орж чадахгүй байж болох асуудлыг урьдчилан сэргийлэхэд тусална гэж зорьж байна.
“DNA синтезийн захиалгыг үйлдвэрлэхээс өмнө бүртгэх нь эргэлзээгүйгээс илүү хэрэгцээтэй, энгийн мөрдөн шалгалтын алхам юм. Энэ нь дараа нь илүү том асуудал гарч ирэхээс сэргийлэхэд тусална,” гэж Emerald Cloud Lab-ын үүсгэн байгуулагч DJ Kleinbaum хэлсэн, тун тааламжтайгаар олсон зөвлөмж юм.
Гэвч Алтман, Хасабис, Амодеи нарын гарын үсэг олон талаараа ач холбогдолтой байж магадгүй гэж үзэж байна. Тэдний маргаантай ч нийлэх бүхий л буюу тэдний хэрэгсэлүүд хүчирхэг, цаашлаад дуулиантай аймшигт хохирол учруулах боломжтой гэдгийг сайн мэдэж байна.
AIxBio эрсдэлийн асуудал: Бүгдээрээ нэг талаас харах зүйл
Фронтирын AI компаниуд биологийн эрсдлийн тухай дуугарч буйдаа анх удаагаа нэгэн дуугаар гарын үсэг зурсныг энэхүү нээлттэй захидал харуулдаг. “Шүүлгээ ашиглах дэмжлэг AI-ийн ямар ч тусгаар бодлоос хамаардаггүй,” захидал дурдсан байна. “Энэ бол олон талтай оролцогчдын хоорондын ховор нэгзуйамаар санал нэгжүүлэх агшин юм.”
Захидал Конгрессыг одоо шууд арга хэмжээ авахыг уриалж байна. “Биотай хамгаалалтын шинэчлэл ба инновацийн хуулийн төслийг хоёр талтай байдлаар дэмжиж байна” гэж хэлээд, энэ нь Бизнесийн тээврээс авч Хэрэглээний захиргаа энэ чиглэлээр ген синтезийн шинэ шалгалтын журам боловсруулахад жил өгье гэж заасан төслийн тухай дурдсан байна. Захидал мөн АНУ-ын мужууд ерөнхий журамтай метал боловсруулалтын дагуу шүүлтүүрийг хэрэгжүүлэхийг санал болгож байна, төр болон салбарын удирдамжийн дагуу нийлэг улсын стандарт бий болгох зорилготой.
Захидал нь AI компаниуддаа биологийн аюулгүй байдлын журам apply хийх тухай биш бөгөөд магадгүй signatories тоо хэдий чинээ их байвэл туслах байсан бол тэднийг хязгаарлах байлаа. (Гэсэн ч томоохон компанийн олон нийтийн эхэнд моделүүдээ аюултай биологийн мэдлэгийг өгөхгүй байдлаар хадгалахыг эрмэлздэг ч зарим тохиолдолд үр дүнгүй байж байлаа.) Шүүлтүүрт төвлөрөх нь ойлгомжтой, ген синтезийн хэд хэдэн ханган нийлүүлэгчийн саналаар авч хэрэгжих боломжтой, AI-аас их болон хүчирхэг зүйлийг хийхэд хүрэх хөндий замыг бууруулах тодорхой жишээ болдог. Мөн хүн ямар нэгэн байдлаар энэ үед хийе гэж заавал хийх ёстой зүйл юм.
AI компаниуд өөрсдийн технологиуд ямар байдлаар зарим аймшигтай эрсдлийг үүсгэж болзошгүйг үнэлж, тодорхой ажилд хүндрэл үүсгэж буйг онцолж байна. Anthropic нь боомтлон хамгаалах бодлогын багийн нарийн химийн, биологийн, радио, цөмийн заналхийллийн мөрдөн шалгалтын ажилтан ажилд авч эхэлжээ. Май-д, GPT-Rosalind-ийг илгээж биологийн хурдасгасан судалгаа, эмийн нээлтэд туслах frontier моделийг танилцуулсны дараа, OpenAI Rosalind Biodefense-ийг танилцуулж, найдвартай хөгжүүлэгчдийг GPT‑Rosalind-ийг ашиглан био хамгаалалтын хэрэгсэл бүтээх боломжийг өгч байна. Захидал илэрснээс хойш 4 сарын 4-нд OpenAI, Anthropic-ийн аюулгүй байдлын мэргэжилтнүүд Биологийн зэвсгийг эсэргүүцэх олон талт комиссын хуралдаанд панелистээр оролцсон.
Гэвч Twist Biosciences‑ийн Дигганс-ийн үзэж буй хамгийн сайн хамгаалалт AI моделүүдийг зэвсгийн үүсгэгч патогенуудыг боловсруулахад ашиглахыг сааруулахад туслах AI‑модельд ашиглах явдал юм. Эдгээр хамгаалалтын моделүүд хэрэгжсэн тохиолдолд ямар ч үйл ажиллагаа болохоос өмнө нь ашиглах гэж оролдлогыг илрүүлэхэд ашиглагдах боломжтой. DNA синтезийн компаниуд эдгээр моделүүдийг ашиглан маш нарийн инженерчлэгдсэн дарааллуудын захиалга эргэлдүүлэх журмыг байгалийн төрлийн дарааллуудтай адил нарийн шалгаж үнэлэхэд тусгаж болно.
“[Gen синтез] компаниудын захиалгыг зөвхөн дарааллын жагсаалтаар шалгаж зогсохгүй, хүнд хүчир бүхий тархи олж харьцуулах AI-тэй шалгадаг байх ёстой,” гэж UC Santa Cruz Genomics Institute‑ийн шинжлэх ухааны хүрээлэнгийн гүйцэтгэх захирал Дэвид Хаусслер нараас хэлсэн бөгөөд тэр нээлттэй захидлын гарын үсгийн нэг юм.
AI-ийг хамгаалах, AI-ээр хамгаалах
Сайхан мэдээ нь энэ ажил аль хэдийн хийгдэж эхэлсэн явдал юм. Үнгэрсэн онд OpenAI био хамгаалалтын стартап Valthos-д 3,0000 мянган ам.долларын төгсгөл хандивласан гэж би мэдэгдсэн байна; Valthos нь биологийн аюулыг илрүүлэх, эмийн холбоот давтамжийг бий болгоход frontier AI системүүдийг боловсруулдаг. Valthos-ийн хамт байгуулагч Кэтлин МакМан нээлттэй захидалд гарын үсэг зурсан.
2025 оны есдүгээр сард CEPI (Coalition for Epidemic Preparedness Innovations) ба philanthropy байгууллага Sentinel Bio Pandemic Preparedness Engine AI платформыг (заримдаа “Engine” гэж товчилдог) үүсгэн ажиллуулж байна. Тэд био хамгаалалтыг дизайн байдлаас бий болгохын тулд био хамгааллын эрсдлийг эхлэлээс нь авч үзэж байна. “Энэ нь AI-ийн сургахад хэрэглэх био хамгааллын өгөгдөл зэргийг хамгаалах, Engine-д хандалтын эрхийг нарийвчлан удирдах, хэрхэн ашиглаж буйг хянах гэх мэт олон давхар био хамгааллын арга хэмжээг хамарна,” гэж CEPI-ын био хамгааллын зөвлөх Сара Картер нараас цахим шуудангаар хэллээ.
Пандемийн бэлэн байдлын хөдөлгүүрийн хэрэглэгчид системтэй ажиллахдаа AI‑ийн дууг өгүүлбэр болгож өгч, хэрэглэгчийн хүсэлтийг энэхүү системтэй харилцах маягаар оролцуулдаг. Хэрэглэгчийн хүсэлтийг тусгай AI агент real‑time-д хянана: таамаглал ашиглан use‑ийг эрсдлийн талаас үнэлж, LLM-ийг зөвшөөрөгдөөгүй контент хэвлүүлэхээс өмнө “jailbreak” хийж магадгүй байдлыг шалгах зорилготой бүтээгдсэн агент.
Гэвч зах зээл дээр худалдаалж буй технологиуд ч асуудал үүсгэж болно. Энэ долоо хоногт Anthropic компани нь чадамж ихтэй, хязгаарлагдсан Mythos моделийн дээд хувилбар Claude Fable 5-ийг зарлав. Түүнийг цахилгаанжуулсан байдлаас хамгаалахын тулд вебсайтад ирдэг хүсэлтүүдийг дуусгах зорилгоор аюулгүй байдлын хүрээлэл рүү шилжүүлдэг, гэрчилгээжсэн технологийн тусгаар модел болгодог. Гэвч хэрэглэгчид Fable 5-т биологийн судалгаа хийх зорилгоор харилцахыг оролдоход модел нь оролцоог нь татаж авахаас татгалзаж, сул хүчин чадалтай модел рүү шилждэг тухай гомдол гаргаж байна. Fable-ийн жишээ нь Life sciences-д AI‑ийг ашиглах боломжийг хязгаарлахад маш их хязгаарлалт үүсгэж байгааг харуулж байна.
“Хүчтэй LLM-үүдийн гол ханган нийлүүлэгчид моделийг хортой мэдээлэл өгчихөөр хүний хэрэгцээг биелүүлэхийн тулд хариу өгөхөөс сэргийлэхийн тулд хамгийн сайн чармайлт гаргаж байна,” гэж Хаусслер хэлсэн. “Гэвч
AI‑ийг хамгаалах зөвлөгөөнөөс AI‑ийг хамгаалах
Энэ ажил одоо эхэлсэн байна. өнгөрсөн жил би OpenAI нь био хамгаалалтын стартап Valthos-д 3,000,000 ам.долларын эхлэл хөрөнгө оруулалт өгсөн гэж мэдээлсэн байдаг: Valthos биологийн заналхийллийг илрүүлэх, эмийн хамгаалах арга хэмжээг боловсруулах зэрэг frontier AI системүүдийг хөгжүүлдэг. Valthos-ийн гэр бүлд багийн хамрагдагч Кэтлин МакМан нээлттэй захидалд гарын үсэг зурсан.
2025 оны есдүгээр сард Эпиземи ба Үзүүлэлтүүдийн бэлэн байдлыг хангах эвлэлийн хүрээлэн (CEPI) ба тогтмол сан с Bh Sentinel Bio нь Pandemic Preparedness Engine AI платформыг бий болгосон нь “Engine” гэхэд дуудагддаг. Тэд био хамгааллыг‑дизайнд тулгуурлаж, эхлэлээс нь био хамгааллын эрсдлийг авч үзэж байна. “Энэ нь AI‑ийг сургахад хэрэглэх био хамгааллын мэдээллийг хамгаалах, Engine-д хандах эрхийг нарийвчлан удирдах, хэрхэн ашиглаж буйг нь хянах зэрэг олон давхар био хамгааллын арга хэмжээг багтаасан” гэж CEPI-ийн био хамгааллын зөвлөх Сара Картер нараас цахим шуудангаар хэллээ.
Пандемийн Preparedness Engine-ийн хэрэглэгчид AI‑ийн тушаалуудаар системтэй ойролцоох байдлаар ажиллах ба хэрэглэгчийн тушаал оролцохдоо хэрэглэгчийн контент аюулгүй байдлын эрсдлийг үнэлж буй тусгай AI агентийн хараанд орно. Тухайн агент нь “jailbreak” гэх мэт хориотой контент үүсгэхээс зайлсхийх, тохиромжгүйContент үүсгэхийг зогсоох эсэхийг шууд хянадаг.
Тэгвэл захиалгат технологиуд ч асуудал дахиад үүсгэж болно. Энэ долоо хоногт Anthropic Claude Fable 5-ийг албан ёсоор танилцууллаа; Mythos моделийн хамгийн хүчирхэг, хязгаарлагдмал хувилбар нь олон нийтэд хэрэглэгдэхээс хамгаалагдсан байдлаар зорьсон. Claude Fable нь cybersecurity, биологийн, химийн үйлдэл эсвэл distillation зэрэг хүсэлтүүдийг илрүүлэхэд өөр модел рүү шилжүүлдэг ба Fable 5‑ийн хэрэглэгчид биологийн хэлэлцүүлэг зэрэг зөвхөн салбарын үр дүнд ашиглах боломжтой тохиолдолд л оролцуулахгүй байна. Гэвч хэрэглэгчид Fable 5‑тай биологийн асуудлуудаар ярилцах гэж оролдох бүрт модел нь ярилцахаас татгалзаж, бага хүчин чадалтай модел рүү шилждэг талаар шүүмжлэл гаргаж байна. Fable-ийн жишээ Life sciences-д AI‑ийг ашиглах үр ашгийг бууруулах боломжийг ч харуулж байна.
“Хөгжүүлэгч ихчүл LLM‑үүд моделийг ямар нэгэн аюултай зүйл хийхийг өдөөх асуултыг хариулах боломжийг олгохгүй байхаар өөрсдийнхөө байдлаар ажиллаж байна,” гэж Хаусслер хэллээ. “Гэвч лицензийн ашиглалтаар хөлдүүлсэн, өлгий вирусийн бүтцийг зааж чадах LLM‑ийг та бүхэн бүх хүнд зааж чадах LLM болгож хувиргаснаар бид тэр эрсдлийг биелүүлж чадаагүй байх боломжтой. Үүнийг бид хүсэхгүй байна.”
Захидлын гарын үсэгтэй холбоотой асуудлуудыг урьдчилан зогсоох
Энэ нь захидал бичсэн хүмүүсийг биологийн зэвсгийг урьдчилан сэргийлэх асуудалд хүчээр зогсоох эдгээр алхмууд нь тулгуур болсон гэж үздэг. “Хэрэгжүүлэлтэд шаардлагатай үр дүнг олж авахад ямар нэгэн аюулын харагдах байдал илрэхээс өмнө хангамжийн хатуу шалгалт хийдэг нэг асуудал л байна” гэж Бидний аюулгүй байдлын мэргэжлэгч Ричард Данзиг хэллээ. “Энэ салбарт урьдчилан үйлдэх боломж ховор. Бид нэгийг нь авч хэрэгжүүлэх хэрэгтэй гэж бодож байна.”
