Հիմնական տանողներ
- ԱԻ համակարգը, որը կոչվում է DALL-E2, կարծես թե ստեղծել է գրավոր հաղորդակցության իր համակարգը:
- Որոշ փորձագետներ ասում են, որ ակնհայտ լեզուն կարող է պարզապես բամբասանք լինել:
- Դա օրինակ է այն բանի, թե որքան դժվար է մեկնաբանել առաջադեմ AI համակարգերի արդյունքները:
Կարծես թե արհեստական ինտելեկտը (AI) մշակել է իր սեփական լեզուն, սակայն որոշ փորձագետներ թերահավատորեն են վերաբերվում այդ պնդումին:
OpenAI-ի տեքստից-պատկեր AI համակարգը, որը կոչվում է DALL-E2, կարծես ստեղծել է գրավոր հաղորդակցության իր համակարգը: Սա օրինակ է, թե որքան դժվար է մեկնաբանել առաջադեմ AI համակարգերի արդյունքները:
«Խոշոր մոդելների չափի և խորության պատճառով շատ դժվար է բացատրել մոդելի վարքագիծը»,- Lifewire-ին տված հարցազրույցում ասել է iMerit-ի բնական լեզվի ըմբռնման լուծումների ճարտարապետության տնօրեն Թերեզա Օ'Նիլը: «Սա հիմնական մարտահրավերներից մեկն է, իսկ որոշ դեպքերում՝ էթիկական խնդիրներ՝ ավելի ու ավելի հզոր մոդելներով: Եթե մենք չենք կարողանում բացատրել, թե ինչու են նրանք իրենց այնպես պահում, կարո՞ղ ենք կանխատեսել նրանց վարքագիծը կամ պահել այն մեր նորմերին և ակնկալիքներին համապատասխան: «
AI Chats
Համակարգչային գիտության ուսանող Ջիանիս Դարասը վերջերս նշել է, որ DALLE-2 համակարգը, որը պատկերներ է ստեղծում տեքստի մուտքագրման հիման վրա, որոշակի հանգամանքներում անհեթեթ բառերը կվերադարձնի որպես տեքստ:
«DALLE-2-ի հայտնի սահմանափակումն այն է, որ այն պայքարում է տեքստի հետ», - գրել է նա մի հոդվածում, որը հրապարակվել է Arxiv նախատպման սերվերում: «Օրինակ, տեքստային հուշումները, ինչպիսիք են՝ «ինքնաթիռ բառի պատկերը» հաճախ հանգեցնում են գեներացված պատկերների, որոնք պատկերում են անհեթեթ տեքստ»:
Սակայն, գրել է Դարասը, ակնհայտ շփոթության հետևում կարող է լինել մեթոդ: «Մենք հայտնաբերում ենք, որ այս արտադրված տեքստը պատահական չէ, այլ ավելի շուտ բացահայտում է թաքնված բառապաշարը, որը մոդելը կարծես թե մշակել է ներքուստ», - շարունակեց նա: «Օրինակ, երբ սնվում է այս անհեթեթ տեքստով, մոդելը հաճախ ինքնաթիռներ է արտադրում»:
Իր թվիթում Դարասը նշել է, որ երբ DALLE-2-ին խնդրեցին ենթավերնագրել երկու ֆերմերների միջև զրույցը, այն ցույց տվեց, որ նրանք խոսում են, բայց խոսքի փուչիկները լցված էին անհեթեթ բառերով: Բայց Դարասը հայտնաբերեց, որ բառերը, ըստ երևույթին, ունեն իրենց ուրույն նշանակությունը արհեստական ինտելեկտի համար. ֆերմերները խոսում էին բանջարեղենի և թռչունների մասին:
Հապրի տեխնոլոգիական ընկերության գործադիր տնօրեն Նիկոլա Դավոլիոն, որն աշխատում է AI-ի հետ, Lifewire-ին էլփոստի հարցազրույցում բացատրել է, որ լեզուն հիմնված է խորհրդանիշների վրա, որոնք DALL-E2 համակարգը սովորել է կապել որոշակի հասկացությունների հետ: Օրինակ, «շան» խորհրդանիշը կարող է կապված լինել շան նկարի հետ, մինչդեռ «կատվի» խորհրդանիշը կարող է կապված լինել կատվի նկարի հետ:DALL-E2-ը ստեղծել է իր լեզուն, քանի որ այն հնարավորություն է տալիս ավելի արդյունավետ հաղորդակցվել այլ AI համակարգերի հետ:
DALL-E2-ի ակնհայտորեն թաքնված բառապաշարի նման հանելուկները հաճելի է պայքարել, բայց դրանք նաև ընդգծում են ավելի ծանր հարցեր…
«Լեզուն կազմված է խորհրդանիշներից, որոնք նման են եգիպտական հիերոգլիֆներին և կարծես թե որևէ կոնկրետ նշանակություն չունեն», - ավելացրեց նա: «Սիմվոլները, հավանաբար, անիմաստ են մարդկանց համար, բայց դրանք կատարյալ իմաստ ունեն AI համակարգի համար, քանի որ այն մշակվել է միլիոնավոր պատկերների վրա»:
Հետազոտողները կարծում են, որ AI համակարգը ստեղծել է լեզուն, որպեսզի օգնի նրան ավելի լավ հասկանալ պատկերների և բառերի փոխհարաբերությունները, ասաց Դավոլիոն:
«Նրանք վստահ չեն, թե ինչու է AI համակարգը զարգացրել իր լեզուն, բայց նրանք կասկածում են, որ դա կարող է կապ ունենալ այն բանի հետ, թե ինչպես էր նա սովորում պատկերներ ստեղծել», - ավելացրեց Դավոլիոն: «Հնարավոր է, որ AI համակարգը մշակել է իր լեզուն՝ ցանցի տարբեր մասերի միջև հաղորդակցությունն ավելի արդյունավետ դարձնելու համար։«
AI Mysteries
DALL-E2-ը միակ AI համակարգը չէ, որը զարգացրել է իր ներքին լեզուն, նշել է Davolio-ն: 2017 թվականին Google-ի AutoML համակարգը ստեղծեց նյարդային ճարտարապետության նոր ձև, որը կոչվում էր «երեխաների ցանց», այն բանից հետո, երբ նա որոշեց, թե ինչպես լավագույնս կատարել տվյալ առաջադրանքը: Այս մանկական ցանցը անկարող էր մեկնաբանվել իր մարդկային ստեղծողների կողմից:
«Այս օրինակները ընդամենը մի քանի դեպքեր են, երբ AI համակարգերը մշակել են այնպիսի բաներ անելու եղանակներ, որոնք մենք չենք կարող բացատրել», - ասաց Դավոլիոն: «Դա ձևավորվող երևույթ է, որը նույն չափով հետաքրքրաշարժ և տագնապալի է: Քանի որ AI համակարգերը դառնում են ավելի բարդ և ինքնավար, մենք կարող ենք ավելի ու ավելի շատ հայտնվել այն վիճակում, որ չհասկանանք, թե ինչպես են դրանք աշխատում»:
Օ'Նիլն ասաց, որ չի կարծում, որ DALL-E2-ը ստեղծում է իր սեփական լեզուն: Փոխարենը, նա ասաց, որ ակնհայտ լեզվական գյուտի պատճառը, հավանաբար, մի փոքր ավելի պրոզաիկ է:
«Մի խելամիտ բացատրություն պատահական պատահականություն է. նման մեծ մոդելի դեպքում կարող է կիրառվել Մերֆիի օրենքի մի փոքր մասը. եթե տարօրինակ բան կարող է տեղի ունենալ, հավանաբար դա տեղի կունենա», - ավելացրեց Օ'Նիլը: Հետազոտող վերլուծաբան Բենջամին Հիլթոնի առաջարկած մեկ այլ հնարավորություն՝ Դարասի բացահայտումները քննարկող Twitter-ի թեմայում այն է, որ «apoploe vesrreaitais» արտահայտության ձևը նմանակում է կենդանու լատիներեն անվան ձևին: Այսպիսով, համակարգը ստեղծեց Էյվսի նոր կարգ, ավելացրեց Օ'Նիլը:
«DALL-E2-ի ակնհայտորեն թաքնված բառապաշարի նման հանելուկները զվարճալի են պայքարելու համար, բայց դրանք նաև ընդգծում են ավելի ծանր հարցեր ռիսկի, կողմնակալության և էթիկայի վերաբերյալ մեծ մոդելների հաճախ անհասկանալի պահվածքում», - ասաց Օ'Նիլը:.
