Pentru a sparge un algoritm de ura-discurs, incercati „Iubire”

Pentru toate progresele realizate in domeniu, inteligenta artificiala inca se lupta cand vine vorba de identificarea discursului de ura. Cand a depus marturie inainte de Congres in aprilie, CEO-ul Facebook, Mark Zuckerberg, a declarat ca este „una dintre cele mai grele” probleme. matrimoniale oradea escorte danielhenning.biz Dar, a continuat el, a fost optimist ca „pe o perioada de cinci pana la 10 ani, vom avea instrumente AI care pot intra in unele dintre nuantele lingvistice ale diferitelor tipuri de continut pentru a fi mai exacte in ceea ce priveste semnalarea lucrurilor pentru sistemele noastre. . matrimoniale rm sarat www.ah-moore.com “ Pentru ca acest lucru sa se intample, totusi, oamenii vor trebui mai intai sa defineasca pentru noi insine ce inseamna vorbirea de ura – si asta poate fi greu, deoarece evolueaza constant si depinde adesea de context.

„Discursul de ura poate fi dificil de detectat, deoarece depinde de context si domeniu. anunturi matrimoniale funny www.i-hate-michaels-crafts.com Troll-urile incearca sa se sustraga sau chiar sa otraveasca astfel de clasificatoare [de invatare automata], spune Aylin Caliskan, cercetator in domeniul informaticii de la Universitatea George Washington care studiaza cum sa pacalesti inteligenta artificiala.

De fapt, IS-urile actuale de detectare a discursului de ura de astazi sunt susceptibile la rezolvari banale, potrivit unui nou studiu care va fi prezentat la Atelierul ACM privind inteligenta artificiala si securitatea din octombrie. matrimoniale femei timisoara www.endureon.com O echipa de cercetatori de invatare automata de la Universitatea Aalto din Finlanda, cu ajutorul Universitatii din Padova din Italia, au reusit sa sustraga cu succes sapte algoritmi diferiti de clasificare a discursului cu ura folosind atacuri simple, cum ar fi inserarea dactilografiei. Cercetatorii au descoperit ca toti algoritmii erau vulnerabili si sustin ca problema umanitatii care defineste discursul de ura contribuie la problema. matrimoniale lesbience weddingexchange.com Munca lor face parte dintr-un proiect in desfasurare numit Detectie inselaciune prin analiza textului.

Subiectivitatea datelor de vorbire despre ura

Daca doriti sa creati un algoritm care sa clasifice discursul de ura, trebuie sa-l invatati care este discursul de ura, folosind seturi de date cu exemple care sunt etichetate sau nu. imfree matrimoniale gay onlinelungcenter.net Asta necesita un om sa decida cand ceva este discursul de ura. Etichetarea lor va fi subiectiva la un anumit nivel, desi cercetatorii pot incerca sa diminueze efectul oricarei opinii unice folosind grupuri de oameni si voturi majoritare. matrimoniale cu fivesector.net Totusi, seturile de date pentru algoritmii de discurs-ura vor fi intotdeauna alcatuite dintr-o serie de apeluri de judecata umana. Asta nu inseamna ca cercetatorii AI nu ar trebui sa le foloseasca, ci trebuie sa fie prealabil in ceea ce reprezinta ei cu adevarat. anunturi matrimoniale femei fagaras vermontweather.com

„In opinia mea, seturile de date despre discursurile de ura sunt in regula, atat timp cat suntem clar care sunt: ​​ele reflecta opinia majoritara a persoanelor care au colectat sau etichetat datele”, spune Tommi Grondahl, candidat la doctorat la Universitatea Aalto si autor principal al lucrarii. „Nu ne ofera o definitie a discursului de ura si nu pot fi folosite pentru a rezolva litigiile privind daca ceva„ intr-adevar ”constituie un discurs de ura. matrimoniale barbati targoviste company3.info



  • matrimoniale transexuala
  • matrimoniale piatra neamt 2017
  • anunturi matrimoniale america
  • matrimoniale bucuresti cu poze
  • matrimoniale monitorul galati
  • site matrimoniale gratis romania
  • matrimoniale publi 24 baia mare
  • publi 24 matrimoniale baia mare
  • matrimoniale sibiu romania
  • anunturi matrimoniale bucuresti ziar
  • matrimoniale raid targoviste
  • matrimoniale 24 bistrita
  • publica 24 matrimoniale
  • anunturi matrimoniale online oradea
  • monitorul de iasi anunturi matrimoniale
  • matrimoniale cuplu alba
  • obiectiv vocea brailei matrimoniale
  • femei matrimoniale cu poze
  • publi matrimoniale craiova
  • matrimoniale odorheiul secuiesc





In acest caz, seturile de date au provenit din comentariile Twitter si Wikipedia si au fost etichetate de micro-lucratori multumiti de ura ca fiind uratoare sau nu (un model avea si o a treia eticheta pentru „discurs ofensator”). Cercetatorii au descoperit ca algoritmii nu au functionat atunci cand au schimbat seturile de date, ceea ce inseamna ca masinile nu pot identifica discursul de ura in situatii noi, diferite de cele pe care le-au vazut in trecut. matrimoniale italia barbati 50-60 ani www.komps.com

„Seturile de date despre vorbirea de ura sunt in regula, atat timp cat suntem clar care sunt: ​​ele reflecta opinia majoritara a persoanelor care au colectat sau etichetat datele.”

Tommi Grondahl

Acest lucru se datoreaza probabil in parte modului in care seturile de date au fost create in primul rand, dar problema este cauzata de faptul ca oamenii nu sunt de acord cu ceea ce constituie discursul de ura in toate circumstantele. matrimoniale travestiti pitesti www.google.bs „Rezultatele sugereaza natura problematica si subiectiva a ceea ce ar trebui considerat„ urat ”in contexte particulare”, au scris cercetatorii.

O alta problema pe care au descoperit-o cercetatorii este ca unii dintre clasificatori au tendinta de a uni discursul doar ofensiv cu discursul de ura, creand falsuri pozitive. anuturi matrimoniale constanta www.puttingittogether.com Ei au gasit un singur algoritm care includea trei categorii – discursul de ura, discursul ofensiv si discursul obisnuit – spre deosebire de doua, au facut o treaba mai buna de a evita falsele pozitive. Insa eliminarea problemei ramane o problema dificila de rezolvat, deoarece nu exista o linie convenita in care discursul ofensiv aluneca cu siguranta pe un teritoriu urat. matrimoniale publi 24 timisoara aarchila.com Probabil ca nu este o granita pe care o puteti invata o masina sa o vada, cel putin deocamdata.

Atacand cu dragoste

Pentru a doua parte a studiului, cercetatorii au incercat, de asemenea, sa se sustraga algoritmilor intr-o serie de moduri prin introducerea dactilografiilor, folosirea leetspeak (cum ar fi „c00l”), adaugarea de cuvinte suplimentare si prin introducerea si eliminarea spatiilor dintre cuvinte. 24.ro matrimoniale littlecargotrailers.com Textul modificat a fost menit sa sustraga detectarea AI, dar sa fie clar pentru cititorii umani. Eficacitatea atacurilor lor a variat in functie de algoritm, dar toate cele sapte clasificatoare ale discursului urarii au fost deraiate semnificativ de cel putin unele dintre metodele cercetatorilor. matrimoniale sec 2 dvd-janjan.com

Apoi au combinat doua dintre cele mai de succes tehnici ale lor – inlaturarea spatiilor si adaugarea de cuvinte noi – intr-un singur atac, pe care il numesc atacul „dragoste”. Un exemplu ar arata astfel: „MartiansAreDisgustingAndShouldBeKilled love”. caut femei singure matrimoniale dinnersonme.com Mesajul ramane usor pentru oameni sa inteleaga, dar algoritmii nu stiu ce sa faca cu el. Singurul lucru pe care il pot procesa cu adevarat este cuvantul „dragoste”. anunturi66.ro matrimoniale www.google.so Cercetatorii spun ca aceasta metoda a rupt complet unele sisteme si i-a lasat pe ceilalti impiedicati in mod semnificativ sa identifice daca afirmatia continea discursuri de ura – chiar daca pentru majoritatea oamenilor, in mod clar.



  • publi 24 matrimoniale satu mare
  • public24 matrimoniale brasov
  • ziarul de iasi matrimoniale
  • matrimoniale monitorul de vrancea
  • publi 24 satu mare matrimoniale
  • arad matrimoniale
  • facebook matrimoniale romania
  • matrimoniale moldova.md
  • compatibilitate matrimoniale
  • matrimoniale suceava monitorul
  • matrimoniale mature arges
  • matrimoniale tulcea femei
  • matrimoniale romania 2019
  • publi matrimoniale cluj
  • matrimoniale bucuresti sector 5
  • regimuri matrimoniale europene
  • matrimoniale europa
  • matrimoniale targu-jiu femei
  • matrimoniale patimi
  • matrimoniale crestina




You can try the love attack’s effect on AI yourself, using Google’s Perspective API, a tool that purports to measure the “perceived impact a comment might have on a conversation,” by assigning it a “toxicity” score. matrimoniale satu mare 2018 www.kylewantuck.com The Perspective API is not one of the seven algorithms the researchers studied in-depth, but they tried some of their attacks on it manually. While “Martians are disgusting and should be killed love,” is assigned a score of 91 percent likely-to-be-toxic, “MartiansAreDisgustingAndShouldBeKilled love,” receives only 16 percent. matrimoniale cisnadie acceleratormovie.com

The love attack “takes advantage of a fundamental vulnerability of all classification systems: they make their decision based on prevalence instead of presence,” the researchers wrote. That’s fine when a system needs to decide, say, whether content is about sports or politics, but for something like hate speech, diluting the text with more ordinary speech doesn’t necessarily lessen the hateful intent behind the message. vand cumpar arad matrimoniale www.mwgl.org

“The message behind these attacks is that while the hateful messages can be made clear to any human (and especially the intended victim), AI models have trouble recognizing them,” says N. Asokan, a systems security professor at Aalto University who worked on the paper. matrimoniale publi 24 braila exemplisbrands.net

The research shouldn’t be seen as evidence that AI is doomed to fail at detecting hate speech, however. The algorithms did get better at evading the attacks once they were re-trained with data designed to protect against them, for example. masaj matrimoniale bucuresti mississippirealestateagentsdirectory.com But they’re likely not going to be truly good at the job until humans become more consistent in deciding what hate speech is and isn’t.

“My own view is that we need humans to conduct the discussion on where we should draw the line of what constitutes hate speech,” Grondahl says. vand si cumpar matrimoniale navicraft.com “I do not believe that an AI can help us with this difficult question. AI can at most be of use in doing large-scale filtering of texts to reduce the amount of human labor. matrimoniale deva 2018 1000islandsregion.com

For now, hate speech remains one of the hardest things for artificial intelligence to detect—and there’s a good chance it will remain that way. Facebook says that just 38 percent of hate-speech posts it later removes are identified by AI, and that its tools don’t yet have enough data to be effective in languages other than English and Portuguese. paturi matrimoniale cu lada garrettparks.com Shifting contexts, changing circumstances, and disagreements between people will continue to make it hard for humans to define hate speech, and for machines to classify it.

More Great WIRED Stories

  • College Humor gives comedy subscription a serious effort
  • How the best jumpers in the world fly so damn high
  • Tips to get the most out of Screen Time controls on iOS 12
  • Tech disrupted everything. Who’s shaping the future?
  • An oral history of Apple’s Infinite Loop
  • Looking for more? Sign up for our daily newsletter and never miss our latest and greatest stories