Պէտք է դադրինք «մեքենայ աստուծոյ» հաւատալէն

 

Մենք կ՚ապրինք խոր հմայութեան ժամանակաշրջան մը, սակայն նորագոյն կախարդանքները, որոնք գրաւած են մարդոց մտքերը, խաբէութիւններ են՝ բոլոր աճպարարութիւններուն պէս։ Մեր գրպաններուն եւ գրասեղաններուն վրայ կան համակարգիչներ, անոնց ետին՝ տուեալներու շտեմարաններ եւ այլ գործիքներ, որոնք ճարտարօրէն կը ներկայացուին իբրեւ ինքնավար ու ամենակարող էութիւններ։ Քանի մը երկար տարի կ՛ընէ արդէն, որ կը վարժեցնեն մեզ «արհեստական բանականութեան» մասին խօսելու այնպէս, կարծես ան գոյութիւն ունենար, կամ ըլլար բան մը, որ ունի միտք, կամք եւ մարդոցմէ անկախ ճակատագիր։

Այս ընկալումը նախ եւ առաջ խաթարուած լեզուի մը արդիւնքն է եւ բառերու կամայական օգտագործումով ծնած ճարտարապետութեան մը արտայայտութիւնը։ Ընտրելով գիտակցութիւն եւ ինքնիւրոյնութիւն ենթադրող բառեր՝ արհեստագիտական ընկերութիւնները գործիքը վերածած են կուռքի։ Անոնք մեքենական դրութիւններուն տուած են մարդկային յատկանիշներ եւ անոնց շուրջ ստեղծած են խորհրդաւորութեան մթնոլորտ մը։ Այսօր միլիառաւոր մարդիկ կը շնչեն այդ մթնոլորտով, որ ծանր պիտի նստի բոլորին ալ վրան։

Եկէք ԱԲ-ի վրայէն մաքրենք գովազդաշուկայական շերտերը եւ հասկնանք, որ մեզի ներկայացուած «մեքենայ աստուածը» ընդամէնը ապրանք մըն է։  Այս գիտակցութիւնը կարեւոր է՝ վերագտնելու համար մարդկային որոշումներ կայացնելու իրաւունքը եւ առեւտրական ընկերութիւններէն պահանջելու ամբողջական պատասխանատուութիւն՝ երկրագունդին եւ մարդկութեան նկատմամբ։

Սկսինք բուն բառէն․ «Արհեստական բանականութիւն» եզրը յաճախ կը ներկայացուի իբրեւ գիտական ճշգրիտ սահմանում։ Իրականութեան մէջ այս եզրը ծնաւ մեքենային մարդկային յատկութիւններ տալու գիտակցուած, եւ ոչ այնքան անմեղ, փորձէ մը։ 1955-ին, Մարվին Մինսքիի եւ Ճոն ՄքՔարթիի նման մասնագէտներ այս անունը ընտրեցին ոչ միայն գիտական պատճառներով, այլ նաեւ ֆինանսաւորում եւ հեղինակութիւն ապահովելու համար։ Անոնք համակարգչային ծրագիրը ներկայացուցին ոչ թէ իբրեւ թուաբանական գործիք, այլ կեանքի տեսակ մը, որ նոր ծնունդ կ՛առնէ։ Աստուածային կը հնչէ, չէ՞։ Իսկ ո՞վ չ՛ուզեր ներկայ ըլլալ նոր արարչագործութեան, խոստացուած՝ հին կտակարանային ծննդոցի 6-օրեայ արագութեամբ․․․

«Բանականութիւն» բառին ընտրութիւնը ծնունդ տուաւ մեքենաներուն զանազան յատկութիւններ վերագրելու մոլորութեան մը, որ ներկայիս կը գտնուի իր ծայրայեղ դրսեւորումներու սահմանին՝ արհեստական բանականութեան օգտագործման ընդհանրացման բերումով։ Համակարգիչի ծնունդին եւ զանազան ծրագիրներու զարգացումին հետ, մարդիկ սկսան հասկնալու, մտածելու եւ գիտակցելու յատկութիւններ վերագրել վիճակագրական հաշուարկներուն եւ օրինաչափութիւններ գտնելու կարողութեան։ ՄքՔարթի նոյնիսկ կը կարծէր, թէ կարելի պիտի ըլլար լուծել մեքենական ուսուցման հիմնական խնդիրները ամրան մը ընթացքին։ Մինչդեռ, ԱԲ-ի այս ժամանակաշրջանին, համակարգչային դրութիւնները կը շարունակեն հիմնուիլ մեծ քանակով տուեալներու մէջ օրինաչափութիւններ գտնելու եւ հաւանական պատասխաններ արտադրելու վրայ։ Սակայն զանոնք նկարագրող առեւտրական լեզուն, եւ առեւտրականէն վարակուած ժողովրդայինը, կը թելադրէ, թէ անոնք իսկապէս կը հասկնան։

Լեզուի խաթարումը այստեղ պարզ անճշտութիւն մը չէ։ Այն բառերը, որոնցմով կը նկարագրենք մեքենաները, կը սահմանեն զանոնք վերահսկելու մեր կարողութիւնը եւ անոնց նկատմամբ օրէնքին վերաբերմունքը։ Երբ համակարգչային ծրագիրը կը ներկայացնենք իբրեւ ինքնիւրոյն էութիւն, կը դժուարացնենք մեր իսկ ստեղծած համակարգերը կառավարելու գործը։

Այս խաբուսիկ լեզուին ամենայստակ օրինակներէն մէկը «զառանցանք» (hallucination) եզրն է։ Երիտասարդները շատ լաւ գիտեն սա։ Երբ համակարգչային ծրագիր մը կեղծ տեղեկութիւն կը ստեղծէ, տեղի ունեցածը թեքնիք սխալ մըն է կամ արտադրանքի ձախողութիւն մը։ Սակայն հիմա ընդհանրացած է այդ փաստը կոչել «զառանցանք»։ Սխալը զառանցանք կոչելով՝ զայն մեքենական թերութենէ կը վերածենք գրեթէ հոգեբանական երեւոյթի մը։ «ChatGPT-ն զառանցեց»․․․։ Երբեք պիտի չմոռնամ  մօտ երեք տարի առաջ հետս պատահածը․ «դիմեցի» արհեստական բանականութեան գործիքի մը, որպէսզի «գրէ» վերլուծութիւն մը 1999 թուականի Հոկտեմբեր 27-ին ՀՀ խորհրդարանին մէջ տեղի ունեցած ծանօթ սպանութիւններուն մասին՝ առկայ տեղեկութիւններուն հիման վրայ։ Արդիւնքը անսպասելի էր․ պատասխան-գրութիւնը կարծես կը պատմէր ճեյմս-պոնտեան ֆիլմ մը բազմաթիւ շինծու կերպարներով եւ բազմաշերտ դաւադրութիւններով, որոնց գլխաւոր պոչը դուրս կը տնկուէր հեռաւոր Փաքիստանէն։ Ու ոչ մէկ վկայակոչուած աղբիւր։

Զառանցանք բառը, օրինակ, այն տպաւորութիւնը կը ստեղծէ, թէ մեքենան ունի ներքին հոգեվիճակ մը, եւ սխալը անոր «բանականութեան» անխուսափելի մէկ տարօրինակութիւնն է։ Այդպէս՝ արտադրող ընկերութեան պատասխանատուութիւնը կը նուազի։ Շահը կը մնայ ընկերութեան, իսկ վտանգն ու վնասը կը փոխանցուին հասարակութեան։

 

Պատմութեան մէջ տեսած ենք նման երեւոյթներ։ Տասնիններորդ դարուն առեւտրական ընկերութիւններուն տրուեցաւ իրաւական «անձի» կարգավիճակը՝ սահմանափակելու համար անոնց ետին գտնուող մարդոց պատասխանատուութիւնը։ Այսօր նոյնը կը կատարուի ծրագրային քոտերուն նկատմամբ․ անոր կը վերագրուի ինքնուրոյն գործելու կարողութիւն, կարծես այլեւս մարդը կամ ընկերութիւնը չէ որոշումներուն պատասխանատուն։

Առողջապահութեան ոլորտէն հետեւեալ օրինակը շատ մտահոգիչ է։ Հիւանդանոցային համակարգի մը մէջ, ԱԲ ծրագիրը ստեղծած է ամբողջովին կեղծ բժշկական գրառումներ՝ բժշկական ստուգումի մը առիթով, որ տեղի չէ ունեցած երբեք։ Այդ կեղծ տուեալները բաւարար եղած են, որպէսզի ապահովագրական ընկերութիւնը կատարէ վճարումներ։ Հիւանդը բացայայտած է իրականութիւնը միայն այն ատեն, երբ ստացած է իր բաժին վճարումին հաշուեցուցակը։ Հիւանդանոցը ներկայացուցած է իր չքմեղանը․ ծրագիրն է «պատասխանատուն», քանզի «զառանցած» է։

Թուային նոր կրօնքին յաղթարշաւը ամենէն յստակ կերպով կ՚արտայայտուի «եզակիութեան» (singularity) գաղափարին մէջ։ Մեզի կ՚ըսուի, թէ մարդկութիւնը ստեղծելու վրայ է իրմէ գերազանց «մեքենայ աստուած» մը, որուն որոշումներուն ստիպուած պիտի ըլլայ ենթարկուիլ օր մը։ Ոմանք կը հաւատան, որ այդ օրը հեռու չէ՝ պիտի հասնի 5-6 տարիէն։

Սակայն այստեղ կայ հիմնական հակասութիւն մը։ Եթէ իսկապէս գոյութիւն ունենար նման գերմարդկային բանականութիւն մը մեզմէ բոլորովին տարբեր մակարդակի մը վրայ, մարդիկս ինչպէ՞ս պիտի կարենայինք ճանչնալ կամ ստուգել զայն։ Մեզմէ կը պահանջուի վստահիլ պատգամաբերի մը, որուն ըսածին ճշմարտութիւնը չենք կրնար հաստատել։

Նոյն ձեւով փոխուած է «գործակատար» (agent) բառին իմաստը։ Նախապէս գործակատարը մարդ մըն էր, որ օրինական որոշ սահմաններու մէջ կը գործէր ուրիշի մը անունով ։ Այսօր «գործակատարային ԱԲ» (agentic AI) արտայայտութիւնը կը թելադրէ այն «միտքը», թէ մեքենան ունի ներքին մղումներ, նպատակներ կամ ցանկութիւններ։ Իրականութեան մէջ կան հրահանգներու եւ պատասխաններու մեքենականօրէն կրկնուող շղթաներ։ Սակայն անոնց տրուած անունները կը ստեղծեն ինքնավար կամքի մը առկայութեան պատրանքը։ Եւ այս իրականութենէն բան մը չի փոխուիր, երբ յանկարծ կը բացայայտուի, որ ինչ որ մարդու «ծառայութեան» մէջ գտնուող ԱԲ «գործակատարը» «կոտրած է» մարդուն դրամատնային հաշիւը ու սկսած է օնլայն «բախտախաղ խաղալ» «տիրոջ» գումարներով՝ առանց անոր գիտութեան կամ հրահանգին։ Նման բան պատահեցաւ վերջերս։ Պիտի չզարմանամ, եթէ շուտով «զառանցանք»ին հետեւողութեամբ նման բաները սկսին կոչուիլ, օրինակ, «չարաճճիութիւն»։ 

Բառերու շքերթը երկար է։ Սիլիքոն Վելին կը գործածէ եթերային բառեր՝ «ամպ» (cloud), «տրամաբանող բնորդ» (reasoning model)։ Վերջերս Մեթա ընկերութիւնը թողարկեց Muse գործիքը, զոր կը վաճառէ որպէս օգտագործողի «թուային գիտակցութիւն» (digital conscience): Այս լեզուն կը ծածկէ ԱԲ-ի գործարկման հսկայական նիւթական ծախսերը։ «Մեքենայ աստուածը» հոգի չէ, աննիւթական էութիւն մը չէ․ ան ամբողջովին կախեալ է ելեկտրականութենէն, ջուրէն, հանքանիւթերէ, սարքաւորումներէ եւ մարդկային աշխատանքէ։ Միաժամանակ, համակարգերը կը կառուցուին մարդոց գրած գիրքերուն, յօդուածներուն, երաժշտութեան, պատկերներուն եւ համացանցային արտադրութեանց վրայ՝ յաճախ առանց հեղինակներու համաձայնութեան կամ հատուցման։ Ամազոնը կը գնէ հազուագիւտ հրատարակութիւններ, կը թուայնացնէ զանոնք, կը հարստացնէ իր տուեալներու շտեմարանը անոնցմով եւ ապա կը փճացնէ։ Նոյնը ըրաւ Մեթա ընկերութիւնը․առցանց տասնեակ միլիոնաւոր տոլար արժողութեամբ տպագիր հին ու նոր գիրքեր գնելէն ու տուեալացնելէն ետք, այրեց բոլորը։ Կարգ մը հեղինակներ հիմա կը փորձեն դատական կարգով պատասխանատուութեան ենթարկել գիրքերու բովանդակութիւնը առանց արտօնութեան օգտագործելու նման անօրինականութիւնները։

Սակայն ի՞նչ կրնան ընել «սովորական» ստեղծողները։ Համացանցի առաջին տարիներուն, բովանդակութիւն ստեղծողները իրենց աշխատանքը կը բաժնեկցէին ազատ հաղորդակցութեան եւ ընդհանուր մշակոյթ մը ստեղծելու յոյսով։ Սակայն այդ դրութիւնը աստիճանաբար վերածուեցաւ բաժանորդագին գանձող համակարգի մը։ Միլիառաւոր մարդիկ իրենց ստեղծագործութիւնը դարձուցին տրամադրելի՝ բոլորին, իսկ ԱԲ հարթակները եկան տնօրինելու այդ ստեղծագործութիւններուն հասանելիութիւնը եւ շահը։

Խնդիրը վստահաբար դրամատիրական բնորդին կամ դրութեան մէջ է, որ հիմնուած է չվարձատրուած մարդկային տուեալներէ արժէք քաղելու եւ երկարատեւ եկամուտներ ապահովելու վրայ։ «Բանականութիւն» բառին օգտագործումը այստեղ՝ բարձր գիները արդարացնելու հնարքն է։ Ընկերային-տնտեսական կամ քաղաքական այլ բնորդներ կրնան շեշտը դնել որոշակի աշխատանք մը արդիւնաւէտ եւ աժան կատարելուն վրայ՝ արհեստագիտութիւնը դիտելով իբրեւ գործիք մը, ոչ՝ պաշտամունքի առարկայ։

Մենք այսօր կը տեսնենք տեսակ մը «հակադարձ լուսաւորութիւն»։ 17-18-րդ դարերու Լուսաւորութիւնը Եւրոպայի մէջ գիտելիքը ազատեց աւատապետական-կրօնապետական վերնախաւի մենաշնորհէն ։ Նոր արհեստագիտական այս շրջանը գիտելիքը կրկին կը փակէ մեքենական քոտերու դժուարամատչելի լեզուին մէջ՝ ամբողջ աշխարհի մակարդակով։ Մարդիկ ստիպուած կ՚ըլլան հարցումներ ուղղել թուային պատգամաբերներուն եւ ընդունիլ պատասխաններ, որոնց կազմութեան ընթացքը չեն հասկնար։

Հետեւաբար, մարդկային ընկերութեան ամբողջականութիւնը պաշտպանելու համար պէտք է պահանջենք, որ ԱԲ համակարգչային ծրագիրները յստակօրէն ներկայացուին իբրեւ ընկերութիւններու արտադրանքներ, ոչ թէ մատուցուին որպէս զգացող եւ ինքնավար էութիւններ։ Երբ համակարգ մը կը ստեղծէ կեղծ բժշկական արձանագրութիւններ, պատճառած վնասը պէտք է քննուի նոյն խստութեամբ, ինչպէս վնասատու ֆիզիքական արտադրանքի մը թերութիւնը։

«Մեքենայ աստուծոյ» մասին պատմութիւնը չի կրնար ապահովել իրաւական պաշտպանութիւն՝ արտադրողներուն։ Մարդու՝ գործելու, դատելու եւ պատասխանատուութիւն ստանձնելու կարողութիւնը շուրջ 300,000 տարուան զարգացում մը ունի։ Ան չի պահանջեր բաժանորդագրութեան վճար եւ կարիքը չունի տուեալներու հսկայական կեդրոններու։

Այն պնդումը, թէ մենք անպայման «պէտք ունինք» ԱԲ-ին, ինքնին արտադրութիւն մըն է, որ կը վաճառուի բոլորիս։ Ժամանակն է անջատելու մեքենային շուրջ ստեղծուած առասպելը եւ վերագտնելու մեր իրականութիւնը կերտելու իրաւունքը։

24 Սեպտեմբեր 2026