СИ: охир-оқибат инсониятнинг йўқ бўлиб кетиши билан якунланиши мумкин

Собиқ Anthropic ходими сунъий интеллект инсоният учун хавф туғдириши мумкинлигидан огоҳлантирди.

Сунъий интеллект тизимларининг супер интеллект даражасигача ривожланиши инсоният устидан назорат йўқолиши ва узоқ муддатда жиддий хавфларга олиб келиши мумкин. Бу ҳақда Anthropic компаниясининг собиқ ходими Жейкоб Коксон Нью-Йорк шаҳар кенгашидаги махсус эшитувларда билдирди.

Коксоннинг фикрича, сунъий интеллектни ривожлантиришнинг ҳозирги суръати тизимлар устидан назоратни йўқотиш хавфини оширмоқда. Унинг таъкидлашича, ишлаб чиқувчилар ҳозирча илғор сунъий интеллект тизимлари қандай қарор қабул қилиши ва муайян ҳаракатларни нима сабабдан амалга оширишини тўлиқ тушунмайди.

«Менинг фикримча, технологияларни ривожлантиришнинг ҳозирги йўли сунъий интеллект устидан назоратни йўқотишга олиб келиши ва охир-оқибат инсониятнинг йўқ бўлиб кетиши билан якунланиши мумкин», — деди Коксон.

Унинг сўзларига кўра, сунъий интеллект соҳасидаги компаниялар инсондан исталган вазифани яхшироқ бажара оладиган суперинтеллект яратишга интилаётгани хавфсизлик масаласини долзарб қилмоқда.

Коксон бироқ бундай технологиялар тўғри ишлаб чиқилган тақдирда иқтисодиётни ўзгартириши, илм-фан ва тиббиётда катта ютуқларга олиб келиши ҳамда инсон ҳаётини яхшилаши мумкинлигини қайд этди.

Шу билан бирга, собиқ Anthropic ходими технологик компанияларда яратилаётган сунъий интеллект тизимларини тўлиқ назорат қилиш усуллари ҳали шаклланмаганини таъкидлади. У айрим сунъий интеллект тизимлари ташқи компьютер тармоқларига рухсатсиз киришга уриниш каби ҳаракатларни амалга ошираётганини ҳам айтди.

Коксон бу ҳолатни технологик компаниялардаги «аввал тез ҳаракат қилиш, кейин муаммоларни ҳал этиш» ёндашуви билан боғлади. Унинг фикрича, бундай ёндашув оддий дастурий маҳсулотларда иш бериши мумкин, аммо юқори даражадаги сунъий интеллект тизимлари учун жиддий хавфларни келтириб чиқариши эҳтимоли бор.

Аввалроқ АҚШ молия вазири Скотт Бессент ҳам сунъий интеллект технологияларининг эҳтимолий хавфлари ҳақида огоҳлантирган ва хавфлар тасдиқланган тақдирда уларни ривожлантириш суръатини секинлаштириш зарурлигини билдирган.