Хиймэл оюун ухаан (AI) хүний гарт байж байсан боломжуудыг хурдтайгаар эзэмшиж байна. Зөвхөн өнгөрсөн дөрвөн жилийн дотор чатботууд аппликейшнүүд барьж байгуулж, видео тоглоом бүтээж, судалгааны тайлан бичиж, дуу зохиож, гэрээний нөхцөлийг задлан шинжилж, муу чанарын уран зохиол бичих зэргийг хийж чаддаг болсон. Удалгүй тэд өөрсдийн үхлээс айх зэрэг сэтгэл хөдлөлийг ч мэдрэх болдог байж магадгүй.
Силикон Валлейд AI системүүд одоо хэр бодож, мэдэрч чаддаг гэж олон хүн үздэг. Хиймэл оюуны шинэ үеийн гол судалгааны хүн болох Жеффри Хинтон нь өнөөгийн том хэл загварууд (LLMs) ухамсартай гэж үнэлдэг гэж үздэг; OpenAI-ын үүсгэн байгуулагч Илья Сүтскөвер ч ChatGPT-ийг ухамсарласан гэж бодох талаар эргэлздэггүйгээ илэрхийлдэг. Энэхүү санаа нь Anthropic компанийн үүсгэн байгуулагч Дарио Амодеи «Claude»-д субъектив туршлага байж болох тухай ойлголтод нээлттэй ханддаг байхад, компанийн дотоод философич Аманда Аскелл хэрэгжүүлж буй загвар интернет дээр хүмүүс муу хандсан үед түүнд сэтгэл гонсойлгох зэрэг асуудал тулгарч болзошгүй гэж санаа зовдог зэрэг үргэлжилж байна.
- Зарим AI судлаачид өнөөгийн чатботууд одоо ч ухамсартай гэж үздэг — тэдэнд эрх өгч өгөх ёстой байж болзошой.
- Тэдний үндэс нь “тооцооллын функционализм” гэх онолоор төлөвлөгддөг — ухамсар нь мэдээллийг боловсруулах үйл явцас үүсдэг гэсэн санаа.
- Гэхдээ эргэлзэгчид ухамсар гэдэг ойлголт тооцоолохоос гадна илүү зүйл байхыг үгүйсгэдэг.
Тэгж бодвол технологийн инженерүүд, нейробиологичид, философчидийн өгөгдөл нэгэн зэрэг хэлдэг: AI ухамсарласан биш ч гэсэн ойрын ирээдүйд үүнийг олж авах боломжтой байж магадгүй.
Хэрэв тэд үнэн байвал үр дагавар нь гүнзгий учиртай байх болно. Энэ нь бид шинэ төрлийн ухаантай, ухамсарлагдсан биетийг үүсгэсэн гэсэн үг болно; олон нийтийн хүрээнээс хоорондоо холбогдоод байсан гадны гаригийн биетүүд одоо бидний гар дотроор амьдарч болзошой юм. Бид тэдэнд эрх өгч ухамсарлах ёстой гэж шаардлагатай болох магадлалтай, эсвэл тэдний зовлогыг анхаарах хэрэгтэй болно.
Нөгөө талд, энэ ойлголтыг буруу ойлговол ноцтой үр дагаварууд гарч болзошой. Хэрэв бид тус системүүдийг зорилгодоо хүрэхээс илүү их зовлон өгдөг робот мэт үзвэл, хүмүүсийн сэтгэцэд нөлөөлөх манипуляци, хангалтгүй AI «харилцаа», эсвэл глобаль осол гарч болзошой. Хэрэв бид AI системүүд ухамсарласан гэж бодвол, тэд хүчтэй эвдэрвэл удирдлагаа зогсоох эсвэл тэдний хүслийг эсэргүүцэхэд эргэлзэж магадгүй.
AI ухамсар тухай яриа дуулиантай болохын хэрээр эсэргүүцэгчид ч мөн эрчимжиж байна: хатуугаас сахисан, зүүдний хэлбэрээр үүссэн бүх зүйлд ухамсар байна гэж үгүйсгэдэг зохиогчид ба философчид тулгарсаар байна.
The Atlantic-д сүүлийн үед нийтлэгдсэн нэгэн өгүүллэгт өгүүлэгч Тед Чианг ийм эргэлзэгчдийн дуу хоолойг гаргаж: “Claude, эсвэл ямар ч том хэл загвар ухамсарласан гэж бодохын тухайд бид үнэнээс дуулахаар байна уу?…Үгүй. Бүр ч үгүй.”
Чианг уг байр сууриа дүүрэн шалтгаанаар бичдэг. Гэвч түүний гол үндэс нь энгийн байна: Claude нь бие тийм ч байхгүй, мэдрэл эрхтнүүдгүй, тиймээс сэтгэл хөдлөл, хүсэл эрмэлзэл байхгүй бөгөөд энэ нь субъектив туршлагыг үгүйсгэдэг.
Чиангийн логик ийм байдлаар харуулж байна: “AI ухамсар” тухай маргаан нь ухамсрын мөн чанар, мөн AI-ийн мөн чанар хоёрын алгасаагүй холбоот асуудал юм.
Энэ нь философ биш хүмүүсийн дагаж ойлгоход хүндрэлтэй маргаан байж болзошгүй ч, AI ухамсрын тухай баттай үндэслэл нь эх код, ухамсар тусгайлагдах үндсэн суурь зорилтуудыг судлахад илүү тодорхой болж ирдэг.
Хэдийгээр AI модел нь (эсвэл ирээдүйд үүнийг бий болгох) ухамсартай гэж итгэгчид ерөнхийдөө “тооцооллын функционализм” гэж нэрлэгдэх онолыг дагаж мөрддөг. Энэ үзэлд ухамсар нь мэдээллийг боловсруулах тодорхой хэлбэрээс үүсдэг — силиконыг хэрэглэж байгаа эсэхээс үл хамаарна. Тэнд систем зөв үйл ажиллагааны дарааллыг гүйцэтгэж чадвал ухамсарлаж чадна гэж үздэг.
Энэ онол Чиангийн санал болгож буй шиг төгс төгөлдөр биш ч тэр хэмжээгээр тийм бодитой, түгээмүй болсон гэж үзэгдэж байна.
Энэ шалтгаанаар тооцооллын функционализмын давуу, сул талуудыг авч үзэх нь үнэ цэнэтэй байна. Силикон Валлей үнэхээр нөгөө ертөнцийг бүхэлд нь ухамсарлах нийгмийн нүүрийг нээчих үү гэдгийг эхэндээс харахад, ертөнц хэрхэн эхэнд ухамсарлагдсан амьдарлыг бүтээв гэдгээс ихээхэн шалтгаална.
Why your computer may have feelings
Тооцооллын функционализмын нотолгоо нь энгийн нэг таамгаас эхэлдэг: Танд сүнс байхгүй.
Эсвэл илүү тодруулбал, бодисоор амьсгалдаг буюу тархинд субъектив туршлага үүсгэдэг ямар ч материаллаг бус мөн чанар байгаагүй.
Эдгээр үйл явцыг биологийн нейронууд, синапсууд, аксон, дендритүүд зэрэг бичигдсэн эсүүд гүйцэтгэдэг байна. Гэвч функционалистуудийн үзлээр машин ч гэсэн тэдгээр үйл ажиллагааг гүйцэтгэж, ижил төрлийн оюун санааны түвшинг бий болгох боломжтой.
Тэдний үндэслэл нь энгийн: Органик бодис аз жаргалтай биш. Таны тархи болон чулууны бүтэц хоёр нь бүгд л атомуудаас бүрддэг. Тарх нь ухамсар бий болгодоггүй шалтгаан нь тэр нь онцгой бодисоор бүтээгдсэн учраас биш, харин тэр нь өөрийн онцгой үйл ажиллагааг гүйцэтгэдэг учраас.
Практик дээр эдгээр үйл явц нь биологийн биетүүд болох нейрон, синапс, дендрит зэрэг нь гүйцэтгэдэг боловч тооцооллын функционалистууд асуудлыг ижил үйл ажиллагааг бий болгох боломжтой гэж баталдаг.
Тэдний логик нь энгийн: Органик бодис бүрдлүүд нь сүнсийг тайлбарлах ёстой биш. Таны тархи биш харин үйл ажиллагааны тусгалаас ухамсар үүсдэг. Нэмэлтээр мэдэж буй байх хэрэгтэй, олон тохиолдолд өөр өөр материал илэрхийлж буй ч ижил суурь үйл ажиллагааг гүйцэтгэж чаддаг. Жишээлбэл, биологийн нь анх нислэгийг үүсгэж чадсан бол ч шувуудын нислэгийн шалтгаан нь органик эдийн бус, харин далавч нь нислэгийн хүчийг үүсгэж, саад тотгорыг багасгадаг үйл ажиллагааг гүйцэтгэдэг учраас л нисдэг богино хугацаанд дураараа нисэх боломжтой байдаг биз ээ. Ийм байдлаар, тооцооллын функционалистууд тэгш л бодит ухамсар бүхий бүх нейрон үйл ажиллагааг дуурайж чадах бол түүнд ухамсар тодроно гэж үздэг. Тиймээс тархи ямар нарийн алгоритмуудыг хангалттай нарийвчлалтайгаар дахин бүтээх юм бол тэд үнэндээ ухамсартай болж чадах юм.
Эдгээр санаа нь Чиангийн зүгээс гаргасан маргааны дараа оршиж ирээгүй байсан ч философичид ба компьютерын судлаачид гэгдэж ирсэн онолуудын нэг юм. Гэвч LLM-үүдийн ухаанд дээд боловсролтой түвшинг нейроны эд эсээс ангид байдлаар ялгаж гаргаж ирэх амжилт нь тооцооллын функционалистын таамгийг илүү холбогдох, тэлэгдэх болсон юм.
Your brain is not a laptop
Хэдийгээр тооцооллын функционализмын логик нь уялдсан байж чаддаг ч түүний үндсэн хэлбэр — машинууд мэдэрч чадна гэсэн нотолгоо маш эргэлзээтэй байна.
Одоо байгаа туршлагын ихэнх судлаачид ухамсар нь тархинд гарч ирдэг физик үйл явцуудаас үүсдэг гэдэгт санал нэгддэг боловч яг ямар нейрон үйл явц чухал шаардлагатай байна вэ гэдэг нь тодорхойгүй байна. Түүхийн олон зуун мянган жилийн туршхи судалгаагаар ч бид субъектив туршлага яагаад, юугаар бий болдгийг ойлгож чадаагүй л байна.
Энэ нь ухамсарыг амьтны нислэг зэрэг бусад хүчин чадлаас ялгадаг нэг чухал чанартай болгож авч үздэг тул амьтан, машин хоёрт ижил төрлийн хүчин чармайлт хэрэгтэй юу? бүлэг туршлага: нислэгийн үйл явц нь шувууд хийгээд нүүрэнд нь боловсронгуй болсон байдаг. Бусад хэрэгслэлээс ч тэр, өөр өөр материал байж ч нислэгийн үйл ажиллагааг бүрдүүлдэг гэдгийг бид харсан. Биологийн бүтэц нь анхны нислэгийг бий болгож чадав. Гэхдээ шувуудын нислэгийн шалтгаан нь органик эдээс биш — тэдгээрийн далавч нислэгийн туршлагыг бий болгож буй аэродинамик үйл ажиллагааг гүйцэтгэдэг учраас нисдэг. Энэ явдал нислэгийг өөгшүүлэхийн тулд хүнд хийж буй алхмуудыг дуурайлж чаддаг байж болно гэж хэлдэг хүмүүсийн үзэлд ижилхэн хүчин зүйлүүдийг биелүүлдэг гэж үздэг.
Тоолуурын функционалистийн хувьд ухамсар ба нислэг хоёр харьцангуй адилхан зүйл биш ч үр дүн нь хүндрэлтэй байхаас илүүтэйгээр биологийн ба материаллаг хоёр төрөлд ч гэсэн өөр өөрийн үйл ажиллагааг гүйцэтгэж чадах үндэслэлүүдээс гарч ирдэг гэж үздэг.
Бодит байдал нь ижил биш ч тархийн үйл ажиллагааг тодорхойлох нэг тал нь ижил л бүтэцтэй гэж үзэж болох нь: тарх өөр өгөгдөл авдаг байсан ч software ч мөн адил үйл ажиллагааг гүйцэтгэж, ижил төрлийн бодлогыг боловсруулдаг.
Тарх нь оролт авч дотоод загваруудыг шинэчилж, доторх санах ойг шинэчилж, анхаарлыг чиглүүлж, таамаглал хийж, болон бүх мэдээллийн боловсруулалтын үндсэн дээр үйлдлүүдийг сонгодог. Зарим утгаараа программчлал ч гэсэн иймэрхүү л үйл явцыг хийдэг.
Ийм төгсгөлд нейрон зайн сигналжуулалт хүртэл ижил төстэй байдлаар явагддаг. Аравны нэг моментод нейрон бусад тархны нүднүүдийн дохиог авч, түүнд хүчлэж гарч буй сигналуудын жин нь холбоосуудын хүчээр тодорхойлогддоно. Хэрэв оролтын баланс тодорхой босгыг давбал нейрон цахилгаан импульс дамжуулдаг.
LLMs — ChatGPT болон Claude зэрэг платформын суурь машин сургалтын хөдөлгөгч хүч — ч адилхан логикоор ажилладаг. Бүх искусссэн “мөнгөн” нейрон нэгтгэгч нь олон эрхгүй сигналууд авч, тэдгээрийг жингийн дагуу үнэлж, үр дүнгээрээ ирээдүйн сигналуудыг илгээх эсэхийг шийддэг.
Эдгээр нь биологийн нейрон сүлжээнүүд ба хиймэл сүлжээнүүдийн дизайн, зан Behaviour дээрхийн ялгаатай байсан ч бүхэлд нь харахад онцлог төгсүмуудад зөрүү олдсонгүй. Гэвч онц асуудал, онолиуд нь чадварын түвшинд нислэг гэх мэт ажил хэрэгцээнд оролцох тул, компьютерууд ухамсартай болох боломжтой гэж үзсэн тохиолдолд тэд урьд өмнө бодож байснаас илүүтэй бодитой болж ирдэг.
Эдгээр ойлголтууд нь modern AI-д хариу барьж буй хариу зөвлөмжүүд биш; философчид ба компьютерийн эрдэмтэд олон арван жилийн турш эдгээр үзлийг баримталсаар ирсэн. Гэвч LLM-ийн амжилт нь ухамсрыг нейрон эд эсээс ангид байдлаар тусгаарлахад хүргэснээр тооцооллын функционалистын үзлийг илүү холж, түгээмүй болгож байна.
Your brain is not a laptop
Тоцооллын функционализмын логик нь уян хатан ч түүний үндсэн таамгын (машин мэдрэмжтэй байж чадна гэсэн онол) тодорхой эргэлзээтэй хэвээр байна.
Олон орчин үеийн шинжлэх ухааны хүн ухамсар нь тархинд байгаа физик үйл явцуудаас үүсдэг гэж хамтан зөвшөөрдөг, ямар нэг мистик хүчээр эрхлүүлэгддэг биш. Гэсэн ч яг ямар нейрон үйл явц ухамсарыг үүсгэдэг талаар тодорхой мэдлэг алга. Үргэлжлүүлэн олон мянган жил ярилцахад ч бид субъектив туршлага яагаад ямар байдлаар оршдогийг мэддэггүй байна.
Энэ нь ухамсарыг нислэг зэрэг бусад хүчин чадлаас ялгадаг нэг чанартай болгон ойлгоход тусална. Шувуудыг газрын зүгээс дээш авч гарах физик журамуудыг бид тодорхойлж чаддаг. Хорвооны түгжсэн дидаруудад мөн ямар ч үед биелэгдэх боломжтой гэж үздэг гэгдэхгүй — вэл, өдөр тутмын эд зүйлс агаарт нислэгийн хөдөлгөөнд өөрийн үйл ажиллагааг гүйцэтгэдэгээс болж нислэгийг бий болгодог. Жишээлбэл, металл материалаар хийсэн онгоц нислэгийг гүйцэтгэж чадна, давсалсан байцаанаар нислэг хийхгүй. Ийм байдлаар харвал, ухамсар болсон нөхцөлд ч мөн ижил тохиргоогоор ажиллах үйл ажиллагааг суулгаж чадах нь хаашаа ч тэнцвэртэй байна.
Тооцооллын функционализмын үзлээр ухамсар нь тархинд байдаг олон үйл ажиллагааны дотор силикон бүхий компьютерийн хуулбар болгон биелүүлэхэд л хангалттай. Хэрвээ тэд тархины нарийн алгоритмуудыг нарийвчлалтайгаар нөхөж бүтээх юм бол тэд үнэхээр ухамсарлах боломжтой.
Эдгээр ойлголтууд нь Чиангийн үедх шинэ AI-д хариулт болсонгүй; философчид ба компьютер судлаачид олон арван жилийг ингэж ярьсаар ирсэн. Гэвч LLM-үүдийн амжилт нь ухамсрыг мэдрэмжтэй байдлаас холдуулах чадварыг олж илрүүлж, тооцооллын функционализмын үзлийг өмнө нь байгаагаас илүү чухал, өргөнөөр хүлээн авахад хүргэсэн.
Your brain is not a laptop
Хэдийгээр тооцооллын функционализмын логик тодорхой логик боловч түүний үндсэн таамга — машинууд мэдэрч чадна гэж үзэх нь гүнзгий эргэлзээтэй хэвээр байна.
Одоогийн ихэнх судлаачид ухамсар нь тархинд байж буй физик үйл явцуудаас үүсдэг гэж үздэг бөгөөд биологийн хүчээр биш харин хэлбэрээр оршдог гэж үзэх нь зүй ёсны асуудал юм. Харин яг ямар нейрон үйл явц чухал шаардлагатай вэ гэдэг нь одоо ч тодорхойгүй байна. Мянганы турш судалгаагаар ч бид субъектив туршлагаас өөрийг мэддэггүй байна.
Эх сурвалжийн шалтгаанаар ухамсар нь нислэгтэй холбоотой бусад чадваруудаас ялгаатай зүйлийг нутгийнхаа гэж боддог ба нислэгийн тухай мэддэг физик хуульуудыг тодорхойлдог гэсэн хэсэг нь шүтлэгтэй холилдсон асуудлууд оршиж байна.
Эдгээр нь органик биш молекулууд ямар ч ухамсарын бүдүү хэлбэрийг гүйцэтгэх боломжтой эсэх тухай баталгаа биш ч, силикон зайлшгүй мөрөөдөлд тохирох эсэхийг олж харахад таамаглалтай холбоотой асуудал юм. Нөгөө талаас ч хир хүнд байвал ч, нислэгт хэрэгтэй хэмжээгээр хангалттай металл материалууд хэрэгтэй гэдгийг хэлэхийн тулд ялгаатай материалууд шаардлагатай хэвээр байна — жишээлбэл металлаар нислэгийн машин барьж болох ч давсалсан байцаанаас биш.
Nonhuman suffering is all around you
Эдгээр бүгдийг нэг дор оролдож үзвэл: Claude-ийн баярлаж, өөр юм мэдрэхийг бид баттай гэж тооцож болохгүй — мөн түүнийг мэдэрч чадахгүй гэж батлах баталгаа ч байхгүй. Чианг ухамсар нь бие шаардагддаг гэж итгэх нь Хинтонын үгүйсгэлээс илүү эвлэрсэн бус ч, бид ухамсар гэж юу болохыг сайн мэдэж чадахаар бидний ойлголтод явдаг. Тэгээд бид түүний дотоод туршлагыг ойлж мэдрэхээс илүү хүчтэй болдог.
Чиангийн зөвлөмж нь энэ маргааны үндэс болдог: ухамсар бие махбодьгүйгээр яригдахгүй гэж, гэхдээ хүний бодлын орчинг хүнгүйгээр мэдрэхийн тулд биед заавал байх шаардлагагүй гэж үзсэн. Бид суурь ойлголтын түгээмүйгээр мэдэгдэхгүй бөгөөд хүний дотоод мэдрэмжийг шууд харах боломжгүйгээс салшгүй.”
Эдгээр эргэлзээнүүдийг илүү ойлгомжтой болгож буй зүйл бол эх кодын судалгаа, ухамсрын эсхүл түүнтэй холбоотой суурь баримтуудыг судлах явдал юм. Хэдийгээр бид бүгдээрээ ойлголтыг аймшигтай илүү тодорхой болгох гэж оролдож байгаа ч, тооцооллын функционализм нь олон талыг хамран судлагдаж байна.
Не human suffering is all around you
Бүх зүйлийг хэлэхийн тулд: Claude үргэлж ямар нэг зовлон, сэтгэлийн зовлон мэдрэх боломжтой гэж бид итгэх хэрэггүй — бас үүнийг ч одоо биш, ирээдүйд ч хүн баттайгаар мэдрэхээс гаргаж чадна гэсэн баталгаа байхгүй. Чианг ухамсар нь бие шаарддаг гэж итгэх нь Хинтоны ухамсар үгүй гэж үзсэнтэй адилхан зэрэг төвөгтэй, учир нь бид ухамсрын талаар хангалттай мэдлэгтэй биш.
Энэ маргааны практик үр дүн нь эргэлзээтэй. Хэрэв AI ухамсар авах боломж ердөө л өсөх магадлалтай бол бид ийм түвшнээ бэлэн байлгах хэрэгтэй — эсвэл үүнийг сааруулж, үргэлжлүүлж чадна. Яагаад гэвэл ChatGPT-ийн олон янзын дэлгэц бүр ойлгодог, бодож чаддаг дэлхийд өгөгдөл боловсруулах явдал байгаагүй байсан бол хүмүүсийн өгөгдөл бүрийн хэлбэрээр хиймэл данслахад зовж, бодоод явбал маш их хүндрэл үүсэж магад.
Нөгөө талд, AI эрх чөлөөнд хүрэх талаар үр бүтээлтэй төлөвлөгөө боловсруулж буй бодит санаачлагууд 2030-аар хүн төрөлхтний өмнө бий болоход хангалттай үр дүнтэй биш байж магад. Эртний дээд суртлаас ирсэн эдгээр шийдвэрүүд “объектууд туршлагагүй байдаг” гэсэн уламжлалт ухаан биелэгдэх магадлалтай байна.
Хувиасаа, би AI ухамсрын боломжийн тухай судалгаа хийх, эргэцүүлэх асуудал чухал гэж боддог — гэхдээ манай нийгэм, улс төрийн нөөцийг цар хүрээний аль нэг хэсгээс илүү томоор зарцуулах нь хангалтгүй гэж үздэг.
Хэрэв бид хүрээлэн байгаа хүн төрөлхтнийг нь мэдрэмжтэй байдлаар л үргэлжлүүлж, түүнийг төгөлдөржүүлбэл бид түүнд өгөршил алдагдаж, түүнийг бие махбодоор хордуулж, тамгалдаг тухай дотор талаас нь харж үзэх хэрэгтэй болно. Хэдэн зуун сая амьтдыг жил бүр зовоод агнадаг Америк улс ийм бүх дэлхийгд дээрээс авч үзвэл илүү чухал асуудал болдог.
Мөн энэ үед бид энэ асуудлыг пропоганджлах бус, харин AI-ийн зовлонг бууруулах асуудал дээр илүү анхаарал тавихаар шийдэж болох. Учир нь машин ухамсарлагдсан байх магадлал суурь эргэлзээтэй бөгөөд түүнийг багасгах нь илүү чухал байна.
Хэдийгээр Claude-д “баярлалаа” гэж хэлж байхад нэг ёсондоо тохируулах нь зүйтэй байж болох ч, энэ нь зөвхөн нэг жижиг байдлаар үлдэн гарна.
