Дэлхий өөрчлөгдснийг бид хэзээ мэддэг вэ?
6-р сарын 1-нд эрдэмтдийн баг өмнө нь қандай ч оролдлогынхоо өмнө людийн ураг төрөх ДНХ-ийг засварлахдаа илүү нарийвчлалтай болсон гэж үзсэн урьдчилсан шинжилгээний баримт бичгийг нийтэллээ. Техникийн эзэмшил талаас энэ ажил эргэлзээгүйгээр гайхамшигтай боловч өмнөх үеийн эмбрион засварлах оролдлогуудтай холбоотой алдааг ихээхэн тагнуулж үлдээсэн алдаа дутагдлыг бараг л жолоодож явсангүй. Хэд хэдэн удах тусам илүү хөгжүүлэлтээр ийм төрлийн эмбрион засвар ирээдүйд ирээдүйн хүүхдүүдийг үхэлд хүргэж буй эсвэл эмгэгийн нь генетийн өвчнөөс салгаж чадах бололцоо бүхий байж болох ч мөн адил саажилттай өвчинд дарагдаж явсан эмбрионуудыг чөлөөлөхөд тусална гэдгийг судлаачдын үнэмшилтэйгээр нотолсон юм. Гэсэн ч тэр долоо хоногийн сүүлээр Нью-Йорк Таймс сонинд нийтлэгдсэн туршлагатай сэтгүүлч Карл Зиммерийн мэдээлсэнээр гол мэдээ нь “энэ ажлын үр дүн тодорхой онцлог бүхий хүүхдүүдийг хийх замыг нээж өгч байна” — өөрөөр хэлбэл дизайны хүүхдүүдийн тухай байгаагаас илүү юм.”
Ижил өдөр Times-ийн өгүүлэл нийтлэгдсэний дараа Anthropic гэх хиймэл оюун ухааны компани “хиймэл оюун ухаан нь хиймэл оюун ухааны хөгжлийг аль хэдийн эрчимжүүлж байна” гэсэн постыг нийтэлж, үүнийг RSI буюу өөрийгөө давтан сайжруулах (дараагийн үеийн бүтээгч системүүд эрчимтэйгээр өөрсдийгөө бий болгож чаддаг) эхний алхам гэж дүгнэсэн гэж үздэг. Одоогоор Anthropic-ийн Claude үйлчилгээнд ажилладаг кодын ихэнх хэсгийг Claude өөрөө бичдэг бөгөөд энэ нь компанийн инженерүүдэд өмнөх хоёр жилийн хугацаанд наашаас найман дахин илүү их код бичих боломжийг өгч байна. Өдөр нь илүү их нь заавал сайн гэдэгт хамагдаа биш боловч Claude өөрөө өөрийгөө жолоодох чадвартай болох тийм ч холдоогүй бөгөөд өөрийгөө сайжруулах AI-ийн боломж ирээдүйд ирэхийг нөгөө талаар харагдуулж байна — “бөөлжихээрээ олон байгууллагууд бэлэн болохгүй байж магадгүй үед ч” гэж Anthropic-ийн үүсгэн байгуулагч Жек Кларк ба Anthropic Institute-ийн дарга Марина Фаваро бичжээ.
Эдгээр хоёр бичлэг нь биологийн судлаачид ба AI компанийн ажилчдын хооронд хоёр өөр огт өөр салибруудын дунд хийгдсэн боловч хоёр нь ч уур амьсгалыг эрс өөрчлөх боломжтой ойрын ирээдүйн ертөнцийг өгүүлж байгааг харуулж байна.
Хоёр үйл явдал нь өмнө байгаагүй эрх мэдэлд хүрэх магадлалтай алхамууд болдог боловч бид бүх эрх мэдлийг баталгаатай хянах боломжтой байхгүй байна: шинэ загварын оюун ухаан ба шинэ загварын хүмүүс. Хоёрынх нь ижил зүйл гэдэг нь үр дагавар зүгээр л биш, харин хоёр дахь талаас нь ч мөн адил — гайхамшигтай байдал ба аймшигтай үр дагавар хоёрын хоорондох хоёргүй байна. Нас баралттай өвчнийг устгах биологийн нарийвчлал Huntington-ийн зэрэг өвчнийг арилгахад ч хэрэг болно гэдгийг өгүүлсэн ч тэр генетик ангиллын системийг нээж ч боломжтой. Хиймэл оюун ухааны хүчин чадал нь олон арван жилийн турш шинжлэх ухааны ахиц тусламж үзүүлэхээс гадна бүтээгчдийг маань чөлөөлж ч магадгүй — бидэнд ч тэр заримдаа ганцаар нь үлдэж байхаас өөр зүйл үлдэхгүй байж магадгүй.”
Дэлхий өнгөрсөн долоо хоногт хоёр дамжлын дэвшилтэй хамт түүхэн хаалгыг давсан мэт боловч алинд нь ч бид одоогоор мэдэх боломжгүй байна.
Био-шаардлагын алхмыг эхлүүлье. Гарч буй холбоотой мэдээллийн дээд төвшинг тайлж үзье — хэвлэл мэдээлэлд гардаг гарчигууд судлаачдын өөрсдийн тайлбараас үүсдэггүй — туршилт нь ердөө л тодорхой хүрээтэй, дотор нь тархсан үйл явдлууд байгааг л илэрхийлж байна.
CRISPR-ийн зэрэгцээгүй суурь засварлагч гэж нэрлэгдэх арга хэрэгслийн аль нэгийг ашиглан генийн мушгиаг орон зайд артыг буй болгож буй, бүх хэсгийг таслах биш харин жижиг нүх үүсгэдэг гэж үзэхэд, Колумбиа Их Сургуулийн генетикч Диетер Эгли ба түүний баг PCSK9 ба HBG гэж хоёр генийг засварлав. Та эхнийхийг нь мэдэж байх магадлалтай — PCSK9 нь цусны холестериныг арилгахад нөлөөлдөг протийнийг бий болгодог, энэ генийн зарим мутаци LDL холестерины хэмжээг маш өндөр түвшинд хүргээд байна. HBG нь нарijen гемоглобиний нэг төрөлд кодлодог бөгөөд хүүхэд байхаасаа өмнө биед хэрэг болдог ба ихэнхдээ төрсөний дараа идэвхгүй болдог. Эдгээр генийг удирдах чадвартай болох нь удахгүй зүрх судасны өвчний эрсдэлийг нэмэгдүүлдэг мутациудыг урьдчилан сэргийлэх байж чадах боловч насанд хүрсэн үед энэ fetus гемоглобиныг дахин идэвхжүүлэх боломжийг олгож, цусны улаан эсийн хэлбэрийн өвчин (sickle cell disease) ба β-талассемемийн эмчилгээг бүрмөсөн хийхгүй ч хөнгөвчлөхөд туслах байсан ч цаашид үр дүнд хүрэхгүй гэж байна.
Эдгээр судалгаа нь үр дүнд хүрэхээсээ өмнө peer-reviewed-ээр батлагдах шаардлагатай гэж үзсэн ч хүний эмбрионы ген дээр илүү нарийвчлалтайгаар засварлах үйл явц одоо илэрхий болсон гэж үзэгдэх нэмэлт алхамуудыг харуулж байна. Гэсэн ч ямар ч хэлбэрээр ч гэсэн гайхамшигтай боловч төгс төгөлдөр биш, хамгаалалттай ч биш — зарим засвар нь геномын буруу газарт орсон тохиолдол байлаа, эмбрионуудын дунд хувь нь хэвлэгдсэн үеийн байдлаас хойш нийгэмлэгт хэвийн хөгжөөгүй. (IVF-р эмчүүдээс өгөгдсөн эмбрионууд маш анхан шатанд ч хөгжөөгдөж, хэзээ ч суулгагдаагдсангүй.) Эгли ба түүний хамтрагчид судалгаандаа уг суурь засварлагч техникээ эмчилгээний зорилгоор одоогийн байдлаар ашиглах тухай ойлголтыг “хугацаат” гэж тодорхойлсон. Гэсэн ч уг бичээсээс ийм засвар одоо ч хромосомыг дэс дараалалгүйгээр засварлах боломжтой гэж харагдаж байна.
2018 онд Хятадын эрдэмтэн Хэ Жианкуй нь ердийн CRISPR-ийг ашиглан хүний эмбрионыг засварлахад гурван хүүхэд төрүүлсэн нь ёс зүй, техникийн шалтгаанаас шүүмжлэлтэйгээр хүлээж авагдсан билээ; түүний засварын үйл ажиллагаа гэмтэлтэй байдаг учраас огцом гаж нөлөөгүй байсан боловч. Шинэ судалгааны үр дүн батлагдвал эмбрион инженерчлэлийн техникийн саад тотгорууд устаж эхлэх нөхцөл бүрдэж байна.
Дараагийнх нь юу болохыг хэн ч мэдэхгүй байна. Гэнетик өвчлөлүүдийн дийлэнх нь нэг суурь засварлагдлаар эмчлэгдэж болдог ч илүү нарийн эрүүл мэндийн асуудлуудыг урьдчилан сэргийлэх буюу хүний хүсэл мөрөөдлийг дагаж судалдаг түвшинд үр дүнг гаргах гэж үзвэл ихэнх генүүдийг хосолсон байдлаар засварлах шаардлага гарна, гэхдээ одоогоор бид эдгээрийн төгс зохицуулалтыг бүрэн ойлгоогүй байна. Харин техникийн саад тотгорыг тасралтгүй бууруулбал ёс зүйн асуудал л үлдэнэ — тэр нь урт хугацаанд технологийг зогсоож чадахгүй буюу “мөнхөн задержирлах” асуудал биш.
Эдгээр хувьсгалт өөрчлөлтүүд хүний хамгийн хүчтэй инженерчлэл байх махнаас өөр байсан ч биологи үргэлж хоцорсон биш. Туулахаар өнгөрсөн долоо хоногт нийтлэгдсэн бусад баримт бичгийн тухай дараагийн хэсгийг биологийн талаас авч үзье.
Anthropic-ийн пост нь 5,000 гаруй үгтэй, олон дүрс бүхий (би лав Claude-гийн бүтээл гэж таамаглаж байна) график бүхий нэг шаардлагыг дурдаж байна: хүний ажлын хувь хэмжээ AI-г бүтээхэд алхам тутам багасаж байна. Инженерүүд өмнө нь код бичдэг байсан бол одоо ихэнхдээ Claude өөрөө бичсэн зүйлийг шалгаж байна. Туршилтууд өмнө нь хүн хүчээр төлөвлөдог байсан бол одоо модель өөрөө санал болгож, гүйцэтгэж байна. Хүмүүс аль ч үед юуг бүтээхийг үнэлэх үүргээ үлдүүлсэн ч Anthropic-тийнх нь өгүүлснээр түүнийг ч гэсэн өөрчлөлтөд орсныг баталж байна; ажилчид улам бүр моделийн дараагийн алхмыг мэдэгдэхийг хүлээж байна.
AI-ээр илүү ихээр удирдуулсан судалгааны эргэлт нь улам хурдтай явах боломжтой юм. Технологи нь байнга хүний доторхи бодох, төлөвлөх, үйлдэх хурдтай адил өөрчлөгддөггүй гэж хэлж болохгүй. Өөрийг нь сайжруулдаг хиймэл оюун ухаан хурдны хязгаарыг арилгаж, хүн буюу хүн удирддаг байгууллага нь дагалддаг хөтөлбөрүүдийг танидаг хамгийн дээд түвшинд хүрч чадахаар байна. Интеллект өөрөө онцгой үйл ажиллагаанд орж, нэг ухаантай загвар нөгийг илүү ухаантай болгож, хариу урвалыг өөрөө дэмждэг байдал үүсгэн хүчтэй болж байна.
Энд хэдийн хэдэн сар дотор AI компанийн дотоод кодын өгөгдөлд үндэслэсэн хэдхэн сэдэв л байна гэж харж болно. (Ялангуяа ийм AI компаниуд урьдчилсан IPO-аа өмнө нь, магадгүй дээд амжилтыг эзлэхээр зогсолтгүй хэвээр үлдэх нь үнэхээр асуудал байна.) Постод Anthropic өөрийнх нь хөнгөжүүлэлтээр тоог бодож үзэх нь хангалттай гэдгийг зөвшөөрдөг ба хурд нь амжилт хүртэх гол хэмжүүр гэж дуудагдахгүй ч гэсэн судалгаагаар AI загварууд нэг ажил дээр илүү удаан зарцуулж чаддаг болсон нь тэднийг илүү хурдан ч эдгэрмээр зэргээр ажиллуулах боломжтой болгож байна. Хурд гэж бид маргах боловч AI дэвшил үргэлжилж байна гэдэг асуудалд нотолгоо байна.
Хүчирхэг ба харанхуя гялалзсан хиймэл оюун ухаан эдийн засаг, шинжлэх ухаан ба эмчилгээний хурдтай ахицыг бий болгож, Anthropic-ийн CEO Дарио Амодей өөрийн бичлэгүүдээр гаргасан мөрөөдлүүдийн бүх хэсгийг биелүүлэхэд тусална гэж үзэж байна.
Гэвч энэ нь бидний эрх ашигт эрсдэлтэй зэрэгцэн оршихуй тул, генетик хүний сайжруулалтыг хөндөх байдалд байдаг шиг хүмүүсийн олон хэсэгт үр дүнгүй байж болно. Түүнээс ч өмнө ийм хурдан өөрчлөлт нь үнэт зүйлсийн тулгравд дийлэнхийн хувьд улам гүн гүнзгий нөлөөлөл үүсгэж болзошин бөгөөд Anthropic нь frontiers AI хөгжүүлэлтүүдийг хамтран зогсоох эсвэл эрсдэлийг сааруулах олон улсын журмуудын хэлэлцүүлгийг дэмжихийг санал болгож байна. Альваа байгууллагаас эхлэлтэйгээр хийж буй энэ талаар Жоохон байдлаар АНУ-ын нөгөө зарим орны технологийн хяналтуудтай ижил үзэл бодлыг хүчтэй дэмжихэд хүрнэ. Гэвч ийм институциуд, олон улсын атомын эрчим хүчний агентлагаас хойш олон арван жил шаардагдсан, ийм дүнг авч чадсан нь Үнэндээ олон асуудалтай яв байна. Гэхдээ Anthropic-ийн удирдагчид хэлсэнчлэн: “Бидэнд тэдгээр хугацаа байхгүй.”
Дэлхий өөрчлөгдөж буйг бид хэрхэн мэдэх вэ?
Заримдаа шууд мэдрэгддэг. 1938 оны арванхоёрдугаар сард Отто Хан, Фриц Штрасманн нар цөмийн хуваагдлыг гаргахад мэргэжилтнүүд үр дүнд нь шууд ойлгож: цөмийн бөмбөг бол боломжтой юм болно гэж. Заримдаа эрдэмтэд үүнийг хардаг ч дэлхий дахинаар ойлгож чаддаггүй. Хэзээنان Jennifer Doudna ба Emmanuelle Charpentier нь CRISPR-ийн үндсэн өгүүллийг 2012 онд нийтэлснээр эхний хэвлэлүүд бараг үгүй байлаа; үүнийг удирдах байгууллагууд нь юу болохыг мэдэхгүй байсан.”
Хамгийн хэцүү тохиолдлууд нь мэргэжилтнүүд ч бүх зүйлийг нэг талаас харахгүй байхад тулгардаг. Хуваагдал нь нэг замаар зэвсэг рүү чиглэсэн бол түүнийг ойлгосон хүмүүс үүнийг зогсоох эрхгүй үлдсэн. Өнгөрсөн бадагийн хоёр дэвшил хоёр өөр хоёр чиглэлд зэрэг гойжигддаг. ижил засварлах технологи нь хүүхдийг нас бардаг өвчнөөс чөлөөлөхөд туслах бол, эцэст нь хүүхдүүдийг генетик ангилалд хуваах замыг нээж чадах. Амодей нэг удаа хэлсэнээр “өгөгдлийн төвд гениус хүмүүсийн улс” болгох ухаан биднийг дэлхий дээрх зөрүүд биш харагдуулж чадах ч мөн биднийг дэлхий дээрх харж буй хүмүүсээс илүү зөөлөн харагдуулах болно.
Түүнээс ч илүү цаашид харж байна гээд бидний өмнө эхлэлд тавьсан түгшүүрийн үр дүнг харахаас аргагүй байна. Аюул зөвхөн буруу хаалгаар орсон асуудал биш ч, тэр хаалгыг олж харалгүй орсонтой холбоотой асуудал юм.
