Հիմնական տանողներ
- Twitter-ը հույս ունի շտկել այն, ինչ օգտատերերն անվանում են ռասայական կողմնակալություն իրենց պատկերների նախադիտման ծրագրաշարում:
- Տեխնոլոգիական հսկայի կոչը կարող է լինել այն մշակութային հաշվարկը, որն անհրաժեշտ է արդյունաբերությունը լուծելու բազմազանության խնդիրները:
- Տեխնիկայի բազմազանության բացակայությունը վնասում է դրա տեխնոլոգիական առաջընթացի արդյունավետությունը:
Twitter-ը պատրաստվում է հետաքննություն սկսել նկարների մշակման իր ալգորիթմի վերաբերյալ այն բանից հետո, երբ այն դարձավ թրենդային թեմա, որը խթանեց ավելի լայն զրույց տեխնոլոգիական արդյունաբերության բազմազանության հարցերի շուրջ:
Սոցիալական մեդիա նավատորմը հայտնվել է վերնագրերում այն բանից հետո, երբ օգտատերերը հայտնաբերել են ակնհայտ ռասայական կողմնակալություն իր պատկերների նախադիտման ալգորիթմում: Բացահայտումը տեղի է ունեցել այն բանից հետո, երբ Twitter-ի օգտատեր Քոլին Մեդլենդը օգտագործել է հարթակը` կոչ անելով Zoom-ի կողմից չճանաչել իր սևամորթ գործընկերներին, ովքեր օգտագործում էին կանաչ էկրանի տեխնոլոգիան, բայց հեգնանքի մեծ ցուցադրման մեջ նա գտավ, որ Twitter-ի պատկերների կրճատման ալգորիթմը նույն կերպ վարվեց և առաջնահերթությունից զրկեց սև դեմքերին:
Անշուշտ, դա մեծ խնդիր է ցանկացած փոքրամասնության համար, բայց ես կարծում եմ, որ կա նաև շատ ավելի լայն խնդիր:
Մյուս օգտատերերը մտան տենդենցի մեջ՝ առաջացնելով մի շարք վիրուսային թվիթներ, որոնք ցույց են տալիս, որ ալգորիթմը մշտապես առաջնահերթություն է տալիս սպիտակ և բաց մաշկ ունեցող դեմքերին՝ սկսած մարդկանցից մինչև մուլտհերոսներ և նույնիսկ շներ: Այս ձախողումը վկայում է տեխնոլոգիական արդյունաբերության ավելի մեծ մշակութային շարժման մասին, որը հետևողականորեն չի կարողացել հաշվի առնել փոքրամասնությունների խմբերը, որոնք տարածվել են տեխնիկական կողմի վրա:
«Դա ստիպում է փոքրամասնություններին զգալ սարսափելի, կարծես նրանք կարևոր չեն, և այն կարող է օգտագործվել այլ բաների համար, որոնք կարող են ավելի լուրջ վնաս պատճառել», - Էրիկ Լորեդ-Միլլեր, Համալսարանի համակարգչային գիտության պրոֆեսոր։ Մասաչուսեթս նահանգից, ասել է հեռախոսային հարցազրույցում։«Երբ դուք որոշեք, թե ինչի համար կարող է օգտագործվել ծրագրաշարը և ինչ վնաս կարող է լինել, այնուհետև մենք սկսում ենք խոսել դրանց հավանականությունը նվազագույնի հասցնելու ուղիների մասին»:
Canary on the Timeline
Թվիթերն օգտագործում է նեյրոնային ցանցեր՝ թվիթերում ներկառուցված պատկերները ավտոմատ կերպով կտրելու համար: Ենթադրվում է, որ ալգորիթմը հայտնաբերում է դեմքերը՝ նախադիտման համար, բայց կարծես թե այն ունի նկատելի սպիտակ կողմնակալություն: Ընկերության խոսնակ Լիզ Քելլին թվիթերում պատասխանել է բոլոր մտահոգություններին:
Քելլին թվիթերում գրել է. «Շնորհակալություն բոլորին, ովքեր բարձրացրել են դա: Մենք փորձարկեցինք կողմնակալության համար նախքան մոդելը առաքելը և մեր թեստում ռասայական կամ գենդերային կողմնակալության ապացույցներ չգտանք, բայց պարզ է, որ մենք ավելի շատ վերլուծություններ ենք ստացել: անել: մենք կբացենք մեր աշխատանքը, որպեսզի ուրիշները կարողանան վերանայել և կրկնօրինակել:"
«Դեմքի ճանաչման տեխնոլոգիաները վայրի բնության մեջ. կոչ է դաշնային գրասենյակի համար» սպիտակ թղթի համահեղինակ, Learned-Miller-ը առաջատար հետազոտող է դեմքի վրա հիմնված AI ուսուցման ծրագրաշարի ավելցուկների վերաբերյալ:Նա տարիներ շարունակ քննարկել է պատկերների ուսուցման ծրագրերի հնարավոր բացասական ազդեցությունը և խոսել է իրականության ստեղծման կարևորության մասին, որտեղ այդ կողմնակալությունները մեղմվում են իրենց հնարավորության չափով:
Դեմքի ճանաչման տեխնոլոգիայի շատ ալգորիթմներ օգտագործում են տվյալների համար հղումային հավաքածուներ, որոնք հաճախ հայտնի են որպես ուսումնական հավաքածուներ, որոնք պատկերների հավաքածու են, որոնք օգտագործվում են պատկերների ուսուցման ծրագրերի վարքագիծը ճշգրտելու համար: Այն, ի վերջո, թույլ է տալիս AI-ին հեշտությամբ ճանաչել դեմքերի լայն տեսականի: Այնուամենայնիվ, այս հղումների հավաքածուները կարող են զուրկ լինել բազմազան լողավազանից, ինչը հանգեցնում է այնպիսի խնդիրների, ինչպիսիք են Twitter-ի թիմը:
«Իհարկե, դա հսկայական խնդիր է ցանկացած փոքրամասնության համար, բայց ես կարծում եմ, որ կա նաև շատ ավելի լայն խնդիր», - ասաց Լրեդդ-Միլլերը: «Դա վերաբերում է տեխնոլոգիական ոլորտում բազմազանության բացակայությանը և կենտրոնացված, կարգավորող ուժի անհրաժեշտությանը, որը ցույց կտա այս տեսակի հզոր ծրագրաշարի պատշաճ օգտագործումը, որը հակված է չարաշահման և չարաշահման»::
Տեխնոլոգիաներ Բազմազանության Բացակայություն
Թվիթերը կարող է լինել ամենավերջին տեխնոլոգիական ընկերությունը, սակայն սա հեռու է նոր խնդրից: Տեխնոլոգիական ոլորտը մնում է հիմնականում սպիտակամորթ, մշտապես տղամարդկանց կողմից գերակշռող ոլորտ, և հետազոտողները պարզել են, որ բազմազանության բացակայությունը առաջացնում է համակարգային, պատմական անհավասարակշռության կրկնօրինակում մշակված ծրագրաշարում:
Նյու Յորքի համալսարանի AI Now ինստիտուտի 2019 թվականի զեկույցում հետազոտողները պարզել են, որ սևամորթները կազմում են երկրի առաջատար տեխնոլոգիական ընկերությունների աշխատուժի 6 տոկոսից պակասը: Նմանապես, կանայք կազմում են ոլորտում աշխատողների միայն 26 տոկոսը, ինչը ավելի ցածր վիճակագրություն է, քան նրանց մասնաբաժինը 1960 թվականին:
Դա ստիպում է փոքրամասնություններին զգալ սարսափելի, կարծես նրանք կարևոր չեն, և այն կարող է օգտագործվել այլ բաների համար, որոնք կարող են ավելի լուրջ վնաս պատճառել:
Մակերևույթում այս ներկայացուցչական խնդիրները կարող են թվալ առօրյա, բայց գործնականում պատճառված վնասը կարող է խորը լինել: AI Now Institute-ի զեկույցի հետազոտողները ենթադրում են, որ սա պատճառահետևանքային կապ ունի ծրագրային ապահովման հետ կապված խնդիրների հետ, որոնք հաճախ չեն կարողանում հաշվի առնել ոչ սպիտակ և ոչ արական պոպուլյացիաները:Անկախ նրանից, թե ինֆրակարմիր օճառի դիսպենսերները չեն կարողանում հայտնաբերել ավելի մուգ մաշկը, թե Amazon-ի AI ծրագրակազմը, որը չի կարողանում տարբերակել իգական սեռի դեմքերը իրենց արական սեռի դեմքերից, տեխնոլոգիական արդյունաբերության բազմազանությանը չանդրադառնալը հանգեցնում է տարբեր աշխարհի հետ գործ ունենալու տեխնոլոգիայի ձախողմանը:
«Կան շատ մարդիկ, ովքեր չեն մտածել խնդիրների մասին և իրականում չեն գիտակցում, թե ինչպես կարող են դրանք վնաս պատճառել և որքան կարևոր են այդ վնասները», - առաջարկել է Learned-Miller-ը AI պատկերի ուսուցման մասին: «Հուսանք, մարդկանց այդ թիվը նվազում է»:
