Հիմնական տանողներ
- ToxMod-ը, բոստոնում գործող Modulate ընկերության կողմից, պնդում է, որ իրական ժամանակում ավտոմատ կերպով հայտնաբերում և գործում է խանգարող խոսքի դեմ:
- Պարզ լեզվով սահմանափակվելու փոխարեն՝ ToxMod-ն օգտագործում է մեքենայական ուսուցում՝ պարզելու ոչ նյութական բաները, ինչպիսիք են զգացմունքները, ծավալը և ռիթմը:
- ToxMod-ը ներկայումս նախատեսված է ներխաղային զրույցի սենյակներում օգտագործելու համար, սակայն պատճառ չկա, որ այն չկարողանա մտնել ձեր Twitch ալիք:
Բոստոնում գտնվող ընկերությունն օգտագործում է մեքենայական ուսուցում, որպեսզի ստեղծի այն, ինչն իր օրինագծով ներկայացնում է որպես աշխարհում առաջին ձայնային մոդերատորական ծառայություն, որը կարող է տարբերել ասվածի և դրա իմաստի միջև:
ToxMod-ը փորձ է լուծելու համացանցում ցանկացած բաց տարածության մոդերատորության պարադոքսը. Բավականաչափ մարդիկ չկան պահանջարկին համապատասխանելու համար, սակայն ալգորիթմները, զտիչները և հաշվետվության համակարգը չեն հասկանում նրբությունները:
ToxMod-ի տվյալների բազայի միջոցով այն կարող է հետևել խաղացողների խոսքի այնպիսի գործոններին, ինչպիսիք են հույզերն ու ձայնը, ինչը օգնում է նրան տարբերակել պահային անհետացումը և վարքագծի օրինակը: Այն վերջերս հայտարարվեց որպես 7v7 ամերիկյան ֆուտբոլի Gridiron խաղի հավելում, որը ներկայումս գտնվում է Steam Early Access-ում:
«Բոլորը գիտեն, որ ոտնձգությունները, ատելության խոսքը և թունավորությունը ձայնային զրույցի և խաղերի մեջ մեծ խնդիր են: Դա սովորաբար հասկացվում է», - ասաց Քարթեր Հաֆմանը, Modulate-ի գլխավոր տեխնոլոգիական տնօրեն և համահիմնադիրը Google-ի հետ հանդիպման ժամանակ: Lifewire. «Մենք կարող էինք վերցնել այն հատկանիշները, որոնք մենք արդյունահանում էինք մեքենայական ուսուցման այս բազմազան համակարգերի միջոցով և միավորել դրանք մի համակարգի մեջ, որը հաշվի էր առնում այս ամբողջ փորձագիտական գիտելիքները, որոնք մենք սովորում էինք համայնքից:«
Ողջույն մեր նոր ռոբոտ մոդերատորներին
Modulate-ն աշխատում է ToxMod-ի վրա անցյալ աշնանից և այն ներառել է որպես ընկերության երեք հիմնական ծառայություններից մեկը: Այն նաև առաջարկում է VoiceWear՝ ձայնը քողարկող սարք, որն աշխատում է մեքենայական ուսուցման միջոցով, և VoiceVibe՝ ագրեգատոր ծառայություն, որը թույլ է տալիս օգտատերերին պարզել, թե ինչ են քննարկում իրենց համայնքի մարդիկ:
Երբ ToxMod-ը աշխատում է չաթում, այն կարող է ծրագրավորվել Modulate-ի ադմինիստրատորի վահանակի միջոցով՝ իրականացնելու մի շարք ավտոմատ գործողություններ, ինչպիսիք են նախազգուշացումների թողարկումը, նվագարկիչների ձայնի անջատումը կամ ձայնի առանձին կարգավորումը:
Այն օգտագործում է տրաժավորման համակարգ, որտեղ իր տեղական օրինակն առաջինն է, որ քայլեր է ձեռնարկում, նախքան հաստատման համար Modulate-ի սերվերների հետ ստուգելը: Այնուհետև այն վերջապես սրվում է մինչև այն կետը, որտեղ կարող է պահանջել մարդկային միջամտություն: Հերթով անցնելով յուրաքանչյուր ստուգում, որը Modulate-ն անվանում է «triage gates», գաղափարն այն է, որ ToxMod-ը մոդերատորների փոքր թիմին տալիս է այն գործիքները, որոնցով արդյունավետորեն կարող է կառավարել շատ ավելի մեծ համայնք:
«Ցավալի ճշմարտությունն այն է, որ բոլորն էլ ունեցել են այդ փորձը, փորձել են ձայնային զրույց օգտագործել ցանկացած հարթակում, որտեղ էլ որ լինես, և պարզել, որ, տղա, դա վատ գաղափար էր», - ասում է Modulate-ի գործադիր տնօրեն Մայք Պապասը: տեսազանգ Lifewire-ի հետ: «Կարողանալ ներս մտնել և ասել. «Սա Վայրի Արևմուտքը չէ: Կան կանոններ»: Կարծում եմ, որ դա իսկապես կարևոր է»:
Համակարգի խախտում
Բնականաբար, ToxMod-ի մասին երկրորդ կամ երրորդ հարցն այն է, թե ինչպես կոտրել այն:
Բազմաթիվ ավտոմատ մոդերացիայի համակարգերով, ինչպիսիք են ալգորիթմները, որոնք կառավարում են Twitter-ը, հեշտ է դրանք խաղարկել այն մարդկանց դեմ, ում ձեզ դուր չի գալիս: Պարզապես զանգվածաբար զեկուցեք ձեր թիրախին մի քանի տիկնիկային հաշիվներով, և նրանք հուսալիորեն արգելք կկրեն:
«Հիմնական մակարդակում ToxMod-ը կարիք չունի հիմնվելու խաղացողների այդ լրացուցիչ հաշվետվությունների վրա», - ասաց Պապասը: «Դա դեռևս կարող է հիմնավոր գնահատականներ տալ, թե որ հանցագործությունների վրա պետք է ուշադրություն դարձնենք:Դուք չպետք է անհանգստանաք այն խաղացողների համար, ովքեր փորձում են խաղալ համակարգը, քանի որ իրականում ոչինչ չկա խաղալու համար:
Բոլորը գիտեն, որ ոտնձգությունները, ատելության խոսքը և թունավորությունը ձայնային զրույցի և խաղերի ժամանակ մեծ խնդիր են:
«Այն ամենը, ինչ դուք կարող եք վերահսկել որպես նվագարկիչ, ձեր սեփական ձայնն է», - շարունակեց Պապասը: «Ամենավատ բանը, որ դուք կարող եք անել, դա ավելի քիչ վատ լինելն է, որպեսզի մենք ձեզ չնշենք որպես վատ դերասան, ինչը, ես կասեի, մոտ է առաքելության հաջողությանը»:
Այսպիսով, ընդհանուր առմամբ, ToxMod-ի գաղափարը ակտիվ վերականգնման փորձն է: Շատ խաղացողներ այս պահին ոտնձգության են ենթարկվել պատահական անծանոթ մարդկանց կողմից բաց ձայնային ալիքներում՝ սկսած պատահական վիրավորանքներից մինչև ակտիվ սպառնալիքներ: Արդյունքում, խաղացողները սովորաբար խուսափում են ձայնային զրույցից՝ նախընտրելով հրաժարվել դրա հարմարավետությունից՝ սեփական մտքի խաղաղության դիմաց:
«Այն, ինչ մենք ակնկալում ենք տեսնել [վատ դերասանները] շատ ավելի քիչ ժամանակ են ծախսում ձայնային զրույցի մեջ՝ նախքան գտնելն ու հեռացնելը», - ասաց Պապասը:«Դա ավելին է, քան պարզապես գծային ազդեցությունը: Երբ բոլորը տեսնում են ձայնային զրույցը որպես ավելի ապահով վայր, ավելի շատ լավ դերասաններ պատրաստ են վերադառնալ ձայնային զրույցին և փորձել այն: Կարծում եմ, որ ամեն ինչ կարող է դրական ուղղությամբ շարժվել»:
