Արհեստական Բանականութեան Վտանգները

Պատրաստեց՝ ՆԱՐԷ ԳԱԼԵՄՔԷՐԵԱՆ

Արհեստական բանականութիւնը կը նկատուի յեղափոխական եւ աշխարհը փոխող, բայց այդ զերծ չէ թերութիւններէ:

ՊԼՈԿԸՐ ՄԱՅՔ ԹՈՄԱՍ

Արհեստական բանականութիւնը (ԱԲ) կը ներկայացնէ վտանգներ, որոնց շարքին` գործազրկութիւն, խոր կեղծիքներ, կողմնակալ ալկորիթմներ, գաղտնիութեան խախտումներ, զէնքի ինքնագործում  եւ ընկերային դաւեր: Կարգ մը մասնագէտներ եւ առաջնորդներ կոչ կ՛ընեն աւելի զօրաւոր կարգաւորման եւ բարոյագիտական հսկողութեան, քանի որ ԱԲ-ն  աւելի հզօր կը դառնայ եւ կը համարկուի առօրեայ կեանքին:

«Այս բաները կրնան մեզմէ աւելի խելացի դառնալ եւ կրնան որոշել ստանձնել այդ դերը: Հիմա պէտք է մտահոգուինք, թէ ինչպէ՛ս կանխենք այդ», ըսաւ Ճ. Հինթոն, որ յայտնի է որպէս «Արհեստական բանականութեան կնքահայր»` մեքենայական ուսուցման եւ նէյրոնային ցանցերու ալկորիթմներու վերաբերեալ իր հիմնական աշխատանքին համար: 2023 թուականին Հինթոնը լքեց Կուկըլի փոխնախագահի պաշտօնը, որպէսզի կարողանայ «խօսիլ ԱԲ-ի վտանգներու մասին», նշելով, որ նոյնիսկ կը զղջայ իր կեանքին մէկ մասը այդ աշխատանքին յատկացնելուն համար:

Յայտնի համակարգչային գիտնականը առանձին չէ իր մտահոգութիւններուն մէջ: Tesla-ի եւ SpaceX-ի հիմնադիր Էլոն Մասք, այս ոլորտի աւելի քան 1000 այլ առաջնորդներու հետ, 2023 թուականին բաց նամակով կոչ ըրաւ դադրեցնելու ԱԲ-ի մեծ փորձարկումները` նշելով, որ արհեստագիտութիւնը կրնայ «խոր վտանգներ ներկայացնել հասարակութեան եւ մարդկութեան»:

Մտահոգութիւնը կը տիրէ շարք մը ճակատներու վրայ: Մենք դեռ ամբողջովին չենք գիտեր, թէ իրականութեան մէջ ի՛նչ բանի ընդունակ է արհեստական բանականութիւնը:

Վտանգները

• Թափանցիկութեան բացակայութիւն

ԱԲ-ն եւ խոր ուսուցման օրինակները կրնան դժուար հասկնալի ըլլալ նոյնիսկ անոնց համար, որոնք անմիջականօրէն կ՛աշխատին արհեստագիտութեան հետ: Այս կը յանգեցնէ թափանցիկութեան բացակայութեան, թէ ինչպէ՛ս եւ ինչո՛ւ ԱԲ-ն կը յանգի իր եզրակացութիւններուն եւ կը ստեղծէ բացատրութեան բացակայութիւն այն մասին, թէ ի՛նչ տուեալներ կ՛օգտագործեն ԱԲ-ի ալկորիթմները, կամ ինչո՛ւ անոնք կրնան կողմնակալ կամ անապահով որոշումներ տալ: Այս մտահոգութիւնները յանգեցուցած են բացատրելի ԱԲ-ի օգտագործման, բայց տակաւին երկար ճամբայ կայ մինչեւ ԱԲ-ի թափանցիկ համակարգերու տարածումը:

Իրավիճակը աւելի կը վատթարանայ, երբ ԱԲ-ի ընկերութիւնները կը շարունակեն լռել իրենց արտադրանքին մասին: Ընկերութիւնները չեն յայտներ հնարաւոր վտանգները: Այս գաղտնիութիւնը լայն հանրութիւնը անտեղեակ կը պահէ հնարաւոր սպառնալիքներէն եւ կը դժուարացնէ օրէնսդիրներու համար նախաձեռնողական միջոցներ ձեռնարկելը` ԱԲ-ի պատասխանատու մշակումը ապահովելու համար:

• Գործազրկութիւն

ԱԲ-ի վրայ հիմնուած աշխատանքի մեքենական ինքնագործութիւնը (automatation) հրատապ խնդիր է, քանի որ այս արհեստագիտութիւնը կը կիրարկուի շուկայի, արտադրութեան եւ առողջապահութեան ոլորտներուն մէջ: Goldman Sachs նոյնիսկ կը նշէ, որ 300 միլիոն աշխատաւորներ կրնան գործազրկուիլ:

Քանի որ ԱԲ-ի վրայ հիմնուած մարդամեքենաները կը դառնան աւելի խելացի եւ ճարպիկ, նոյն առաջադրանքներու համար կը պահանջուի աւելի քիչ մարդ: Արհեստական բանականութիւնը արդէն իսկ զգալի ազդեցութիւն ունի բժշկութեան վրայ: Մասնագէտ մը ըսաւ, որ յաջորդը իրաւաբանութիւնն է, որ պէտք է պատրաստ ըլլայ «մեծ վերափոխումներու»:

«Բազմաթիւ փաստաբաններ հարկադրուած են կարդալ մեծաքանակ տեղեկութիւններ` հարիւրաւոր կամ հազարաւոր էջեր պարունակող տուեալներ եւ փաստաթուղթեր: Շատ դիւրին է, որ բան մը ուշադրութենէն վրիպի: Այսպիսով, ԱԲ-ն, որ ունի կարողութիւն մանրակրկիտ ուսումնասիրելու եւ համապարփակ ապահովելու լաւագոյն հնարաւոր պայմանագիրը` ձեր ակնկալած արդիւնքի համար, մեծ հաւանականութեամբ կրնայ փոխարինել բազմաթիւ փաստաբաններ»:

• Հասարակական խարդախութիւն

Հասարակական խարդախութիւնը նոյնպէս արհեստական բանականութեան վտանգ է: Այս վախը դարձած է իրականութիւն, քանի որ քաղաքական գործիչները կ՛ապաւինին հարթակներուն` իրենց տեսակէտները տարածելու համար: Օրինակ` Ֆերտինանտ Մարկոս Կրտսերը, որ ղեկավարեց ԹիքԹոքի բանակը, Ֆիլիփիններու 2022 թուականի ընտրութեան ժամանակ երիտասարդ ֆիլիփինցիներու քուէները գրաւելու համար:

ԹիքԹոքը, որ ԱԲ-ի ալկորիթմներու վրայ հիմնուած հասարակական լրատուական հարթակի միայն օրինակ մըն է, կը լեցնէ լրահոսը հարթակին վրայ` մարդոց դիտած նախորդ տեսանիւթերուն վերաբերող բովանդակութեամբ:

Յաւելուածի քննադատութիւնը կը թիրախաւորէ այս գործընթացը եւ ալկորիթմի վնասակար ու անճիշդ բովանդակութիւնը զտելու անկարողութիւնը, որ  մտահոգութիւններ կը յառաջացնէ մարդիկը խաբող տեղեկատուութենէն պաշտպանելու ունակութեան վերաբերեալ:

Առցանց լրատուամիջոցներն ու լուրերը դարձած են աւելի մշուշոտ` ԱԲ-ի ստեղծած պատկերներու եւ տեսանիւթերու, ձայնը փոխողներու, նաեւ քաղաքական եւ հասարակական ոլորտներ թափանցող խորը կեղծիքներու լոյսին տակ: Այս արհեստագիտութիւնները կը դիւրացնեն իրատես լուսանկարներ, տեսանիւթեր ստեղծելը կամ կերպարի մը պատկերը ուրիշով մը փոխարինելը` գոյութիւն ունեցող նկարին կամ տեսանիւթին մէջ: Այս ձեւով չարագործները կ՛ունենան այլ ճամբայ մը` տարածելու ապատեղեկատուութիւն եւ պատերազմական քարոզչութիւն, ստեղծելով մղձաւանջային վիճակ, ուր գրեթէ անկարելի է տարբերակել հաւաստի եւ սխալ լուրերը:

Ոչ ոք կը գիտնայ, թէ ի՛նչ բան իրական է, իսկ ինչը` ոչ: Դուք բառացիօրէն չէք կրնար հաւատալ ձեր աչքերուն եւ ականջներուն. դուք չէք կրնար յոյսը դնել այն բանին վրայ, որ պատմականօրէն մենք համարած ենք լաւագոյն հնարաւոր ապացոյցը: Այս անլուծելի խնդիր պիտի ըլլայ:

• Հասարակական հսկողութիւն` ԱԲ-ի  արհեստագիտութեան միջոցով

Իր գոյութեան սպառնալիքէն բացի` մասնագէտներ կը կեդրոնանան այն հարցին վրայ, թէ ինչպէ՛ս ԱԲ-ն բացասաբար պիտի ազդէ գաղտնիութեան եւ անվտանգութեան վրայ: Անոր վառ օրինակ է դէմքը ճանչնալու արհեստագիտական օգտագործումը Չինաստանի գրասենեակներուն, դպրոցներուն եւ այլ վայրերուն մէջ: Բացի անձի տեղաշարժերուն հետեւելէ` Չինաստանի կառավարութիւնը կրնայ բաւարար տուեալներ հաւաքել անձի գործունէութիւնը, յարաբերութիւնները եւ քաղաքական հայեացքները վերահսկելու համար: Բռնատիրական վարչակարգերը կ՛օգտագործեն, կամ կը պատրաստուին օգտագործել այդ:

• Տուեալներու գաղտնիութեան պակաս

ԱԲ համակարգերը յաճախ կը հաւաքեն անձնական տուեալներ` մարդոց փորձառութիւնը, կամ ԱԲ-ի մոտելները յարմարեցնելու: Այլ անձեր տուեալները կրնան նոյնիսկ անվտանգ չհամարել, երբ անոնք կը տրամադրուին ԱԲ-ի համակարգին: Ինչ կը վերաբերի ձայնային տուեալներուն, ԱԲ-ով աշխատող սարքերը կրնան հետեւիլ եւ մշակել իրենց հետ կիսուող իւրաքանչիւր ձայնագրութիւն:

Միացեալ Նահանգներու մէջ չկայ յստակ օրէնք մը, որ կը պաշտպանէ քաղաքացիները ԱԲ-ի յառաջացուցած տուեալներու գաղտնիութեան վնասէն:

• Կողմնակալութիւններ

ԱԲ կողմնակալութեան տարբեր ձեւեր նոյնպէս վնասակար են: Անոնք շատ աւելի լայն են, քան` սեռային հարցերը եւ խտրականութիւնը: Բացի տուեալներու եւ ալկորիթմական կողմնակալութենէն` ԱԲ-ն մշակած են մարդիկ, որոնք բնոյթով կողմնակալ են: ԱԲ-ն հետազօտողները հիմնականին մէջ տղամարդիկ են:

Անհատներու նեղ հայեացքները գագաթնակէտին հասած են ԱԲ-ի ճարտարարուեստին մէջ, որ բաց ձգած է շարք մը կարեւոր տեսանկիւններ: ԵՈՒՆԵՍՔՕ-ի տուեալներով, աշխարհի 7000 բնական լեզուներէն միայն 100-ը գործածուած է լաւագոյն չեթփոտերը մարզելու համար: Նոյնպէս մտահոգիչ է այն փաստը, որ առցանց բարձրագոյն կրթութեան նիւթերու 90 առ հարիւրը արդէն կ?արտադրուի Եւրոպական Միութեան եւ Հիւսիսային Ամերիկայի երկիրներու կողմէ, ինչ որ կը սահմանափակէ ԱԲ-ն մարզելու տուեալները հիմնականին մէջ արեւմտեան աղբիւրներով:

Այլ վտանգներ

• Հասարակական-տնտեսական անհաւասարութիւն,
• Բարոյագիտութեան եւ բարի կամեցողութեան տկարացում,
• ԱԲ-ով աշխատող ինքնավար զէնքեր,
• ԱԲ-ի  ալկորիթմներու պատճառով յառաջացած նիւթական տագնապներ,
• Աւելի լայն տնտեսական եւ քաղաքական անկայունութիւն,
• Մարդկային ազդեցութեան կորուստ,
• Ոճրային գործունէութեան աճ եւ երեխաներու անվտանգութեան կապուած մտահոգութիւններ,
• Հոգեկան վատթարացում եւ հոգեբանական վնաս,
• Անկառավարելի ինքնագիտակից ԱԲ:

Ինչպէ՞ս մեղմել ԱԲ-ի վտանգները 

Արհեստական բանականութիւնը տակաւին ունի բազմաթիւ առաւելութիւններ, ինչպիսիք են առողջապահական տուեալներու կազմակերպումը եւ ինքնագնաց մեքենաներու հզօրացումը: Սակայն այս խոստմնալից արհեստագիտութենէն առաւելագոյնս օգտուելու համար ոմանք կը պնդեն, որ անհրաժեշտ է մեծաքանակ կարգաւորում:

Կայ լուրջ վտանգ, որ ԱԲ համակարգերը շուտով մեզմէ աւելի խելացի կը դարձնենք, եւ անոնք կրնան վատ դրդապատճառներ ունենալ եւ վերահսկողութիւնը ստանձնել, կ՛ըսեն մասնագէտներ` աւելցնելով, որ այս պարզապէս գիտաերեւակայական խնդիր չէ: Այս լուրջ խնդիր է, որ հաւանաբար շուտով կը յայտնուի, եւ քաղաքական գործիչները պէտք է մտածեն, թէ հիմա ի՛նչ ընել անոր»: