Key Takeaways
- Lub cuab yeej software tshiab tso cai rau AI los saib xyuas cov lus hauv internet rau kev hais lus ntxub.
- AI xav tau los nruab nrab cov ntsiab lus hauv internet vim tias cov khoom ntim loj heev uas ua rau tib neeg muaj peev xwm.
- Tab sis qee tus kws tshaj lij hais tias AI saib xyuas kev hais lus ua rau muaj kev txhawj xeeb txog kev ceev ntiag tug.
Raws li kev hais lus ntxub ntxaug hauv online nce, ib lub tuam txhab hais tias nws yuav muaj kev daws teeb meem uas tsis tso siab rau tib neeg tus neeg saib xyuas.
Ib qho pib hu ua Spectrum Labs muab kev txawj ntse thev naus laus zis rau cov chaw muab kev pabcuam txhawm rau txheeb xyuas thiab kaw kev sib pauv tshuaj lom hauv lub sijhawm. Tab sis cov kws tshaj lij hais tias kev saib xyuas AI tseem ua rau muaj teeb meem ntiag tug.
"AI kev soj ntsuam feem ntau yuav tsum tau saib cov qauv dhau sijhawm, uas yuav tsum tau khaws cov ntaub ntawv," David Moody, tus kws tshaj lij ntawm Schellman, lub tuam txhab soj ntsuam kev nyab xeeb thiab kev ceev ntiag tug, hais rau Lifewire hauv kev xam phaj email. "Cov ntaub ntawv no yuav suav nrog cov ntaub ntawv uas txoj cai lij choj tau tshaj tawm tias yog cov ntaub ntawv ntiag tug (cov ntaub ntawv txheeb xyuas tus kheej lossis PII)."
Ntau Hate Speech
Spectrum Labs cog lus tias yuav daws cov cuab yeej siv siab rau qhov teeb meem hnub nyoog ntawm kev ntxub ntxaug.
"Ntawm qhov nruab nrab, peb pab cov platforms txo cov ntsiab lus kev siv zog los ntawm 50% thiab nce kev txheeb xyuas cov cwj pwm lom neeg los ntawm 10x," lub tuam txhab thov ntawm nws lub vev xaib.
Spectrum hais tias nws tau ua haujlwm nrog cov koom haum tshawb fawb nrog cov kws tshaj lij hauv cov cwj pwm tsis zoo los tsim ntau dua 40 tus qauv qhia tus cwj pwm. Lub tuam txhab's Guardian cov ntsiab lus tswj hwm lub platform tau tsim los ntawm pab pawg ntawm cov ntaub ntawv tshawb fawb thiab cov neeg saib xyuas kom "txhawb kev tiv thaiv cov zej zog los ntawm kev lom."
Yuav tsum muaj kev xav tau ntau ntxiv rau txoj hauv kev los tawm tsam kev hais lus ntxub ntxaug vim nws tsis yooj yim rau tib neeg los saib xyuas txhua qhov kev sib tw hauv online, Dylan Fox, CEO ntawm AssemblyAI, kev pib ua lag luam uas muab kev paub txog kev hais lus thiab muaj cov neeg siv khoom los saib xyuas kev ntxub ntxaug. hais lus, hais rau Lifewire hauv kev xam phaj email.
"Muaj txog 500 lab tweets ib hnub ntawm Twitter ib leeg," nws hais ntxiv. "Txawm tias ib tus neeg tuaj yeem tshawb xyuas tweet txhua 10 vib nas this, twitter yuav tsum ntiav 60 txhiab tus neeg los ua qhov no. Hloov chaw, peb siv cov cuab yeej ntse xws li AI los ua kom cov txheej txheem ua haujlwm."
Tsis zoo li tib neeg, AI tuaj yeem ua haujlwm 24/7 thiab muaj peev xwm sib npaug ntau dua vim tias nws tau tsim los ua tib zoo siv nws cov cai rau txhua tus neeg siv yam tsis muaj kev ntseeg tus kheej cuam tshuam, Fox hais. Kuj tseem muaj nqi rau cov neeg uas yuav tsum tau saib xyuas thiab nruab nrab cov ntsiab lus.
"Lawv tuaj yeem raug kev tsim txom, kev ntxub ntxaug, thiab kev ua phem, uas tuaj yeem ua rau tib neeg lub hlwb puas tsuaj," nws hais.
Spectrum tsis yog lub tuam txhab nkaus xwb uas nrhiav kom pom cov lus ntxub ntxaug hauv online. Piv txwv li, Center Malaysia tsis ntev los no tau tshaj tawm ib qho online tracker tsim los nrhiav kev ntxub ntxaug ntawm Malaysian netizens. Cov software uas lawv tsim-hu ua Tracker Benci-siv tshuab kev kawm txhawm rau txheeb xyuas cov lus ntxub ntxaug online, tshwj xeeb tshaj yog hauv Twitter.
Qhov kev sib tw yog yuav ua li cas los tsim qhov chaw uas tib neeg tuaj yeem koom nrog kev tsim kho.
Kev txhawj xeeb txog kev ceev ntiag tug
Thaum cov kev daws teeb meem thev naus laus zis zoo li Spectrum tuaj yeem tawm tsam kev hais lus ntxub ntxaug hauv online, lawv kuj tau nug txog ntau npaum li cas cov tub ceev xwm khoos phis tawj yuav tsum ua.
Muaj kev cuam tshuam rau kev hais lus dawb, tab sis tsis yog rau cov neeg hais lus uas nws cov lus yuav raug tshem tawm raws li kev hais lus ntxub, Irina Raicu, tus thawj coj ntawm kev coj ncaj ncees hauv internet ntawm Markkula Center for Applied Ethics ntawm Santa Clara University, hais rau Lifewire hauv email interview.
"Kev tso cai thab plaub hauv lub npe ntawm 'kev ywj pheej ntawm kev hais lus' tau ua rau lub hom phiaj ntawm kev hais lus (tshwj xeeb yog thaum tsom rau cov tib neeg tshwj xeeb) kom tsis txhob hais lus-mus tso tseg ntau qhov kev sib tham thiab platform nkaus," Raicu tau hais."Qhov kev sib tw yog yuav ua li cas los tsim qhov chaw uas tib neeg tuaj yeem koom nrog kev sib koom ua ke."
AI kev soj ntsuam kev hais lus yuav tsum tsis txhob tsa cov teeb meem ntiag tug yog tias cov tuam txhab siv cov ntaub ntawv tshaj tawm thaum saib xyuas, Fox tau hais. Txawm li cas los xij, yog tias lub tuam txhab yuav cov ntsiab lus ntawm yuav ua li cas cov neeg siv cuam tshuam ntawm lwm lub platform los txheeb xyuas cov neeg siv teeb meem ua ntej, qhov no tuaj yeem ua rau muaj kev txhawj xeeb txog kev ceev ntiag tug.
"Nws tuaj yeem yog thaj tsam grey me ntsis, nyob ntawm daim ntawv thov," nws ntxiv.
Justin Davis, CEO ntawm Spectrum Labs hais rau Lifewire hauv email tias lub tuam txhab thev naus laus zis tuaj yeem tshuaj xyuas 2 txog 5 txhiab kab ntawm cov ntaub ntawv hauv feem ntawm ib thib ob. Nws tau hais tias "Qhov tseem ceeb tshaj plaws, thev naus laus zis tuaj yeem txo cov ntsiab lus tshuaj lom neeg cov neeg saib xyuas raug pom," nws hais.
Peb yuav nyob ntawm qhov kev hloov pauv hauv AI saib xyuas tib neeg hais lus thiab ntawv hauv online. Kev nce qib yav tom ntej suav nrog kev ywj pheej zoo dua thiab muaj peev xwm saib xyuas tus kheej los txheeb xyuas cov ntaub ntawv tsis paub yav dhau los ntawm kev hais lus ntxub ntxaug lossis lwm yam qauv censorable uas yuav hloov zuj zus, Moody tau hais.
AI tseem yuav sai sai no tuaj yeem paub txog cov qauv hauv cov qauv kev hais lus tshwj xeeb thiab cuam tshuam cov peev txheej thiab lawv lwm yam haujlwm los ntawm kev tshuaj xyuas xov xwm, cov ntaub ntawv pej xeem, kev tshuaj xyuas tus qauv tsheb, kev saib xyuas lub cev, thiab ntau lwm yam kev xaiv, nws hais ntxiv.
Tab sis qee tus kws tshaj lij hais tias tib neeg yuav tsum ua haujlwm nrog cov khoos phis tawj saib xyuas kev hais lus ntxub.
"AI ib leeg yuav tsis ua haujlwm," Raicu hais. "Nws yuav tsum raug lees paub tias yog ib qho cuab yeej tsis zoo uas yuav tsum tau siv ua ke nrog lwm cov lus teb."
Kho 1/25/2022: Ntxiv nqe lus los ntawm Justin Davis nyob rau hauv nqe 5 ntawm qhov kawg kom muaj kev cuam tshuam txog kev tshaj tawm email.
