finanzen.net
15.08.2019 01:03
Bewerten
(0)

Racial bias observed in hate speech detection algorithm from Google

Understanding what makes something offensive or hurtful is difficult enough that many people can’t figure it out, let alone AI systems. And people of color are frequently left out of AI training sets. So it’s little surprise that Alphabet/Google -spawned Jigsaw manages to trip over both of these issues at once, flagging slang used by black Americans as toxic.To be clear, the study was not specifically about evaluating the company’s hate speech detection algorithm, which has faced issues before. Instead it is cited as a contemporary attempt to computationally dissect speech and assign a “toxicity score” — and that it appears to fail in a way indicative of bias against black American speech patterns.The researchers, at the University of Washington, were interested in the idea that databases of hate speech currently available might have racial biases baked in — like many other datasets that suffered from a lack of inclusive practices during formation.Algorithmic accountabilityThey looked at a handful of such databases, essentially thousands of tweets annotated by people as being “hateful,” “offensive,” “abusive,” and so on. These databases were also analyzed to find language strongly associated with African American English or white-aligned English.Combining these two sets basically let them see whether white or black vernacular had a higher or lower chance of being labeled offensive. Lo and behold, black-aligned English was much more likely to be labeled offensive.For both datasets, we uncover strong associations between inferred AAE dialect and various hate speech categories, specifically the “offensive” label from DWMW 17 (r = 0.42) and the “abusive” label from FDCL 18 (r = 0.35), providing evidence that dialect-based bias is present in these corpora.The experiment continued with the researchers sourcing their own annotations for tweets, and found that similar biases appeared. But by “priming” annotators with the knowledge that the person tweeting was likely black or using black-aligned English, the likelihood that they would label a tweet offensive dropped considerably.Examples of control, dialect priming, and race priming for annotators.This isn’t to say necessarily that annotators are all racist or anything like that. But the job of determining what is and isn’t offensive is a complex one socially and linguistically, and obviously awareness of the speaker’s identity is important in some cases, especially in cases where terms once used derisively to refer to that identity have been reclaimed.What’s all this got to do with Alphabet, or Jigsaw, or Google? Well, Jigsaw is a company built out of Alphabet — which we all really just think of as Google by another name — with the intention of helping moderate online discussion by automatically detecting (among other things) offensive speech. Its PerspectiveAPI lets people input a snippet of text and receive a “toxicity score.”As part of the experiment, the researchers fed a bunch of the tweets in question to Perspective. What they got saw was “correlations between dialects/groups in our datasets and the Perspective toxicity scores. All correlations are significant, which indicates potential racial bias for all datasets.”Chart showing that African American English (AAE) was more likely to be labeled toxic by Alphabet’s Perspective API.So basically, they found that Perspective was way more likely to label black speech as toxic, and white speech otherwise. Remember, this isn’t a model thrown together on the back of a few thousand tweets — it’s an attempt at a commercial moderation product.As this comparison wasn’t the primary goal of the research, but rather a byproduct, it should not be taken as some kind of massive takedown of Jigsaw’s work. On the other hand, the differences shown are very significant and quite in keeping with the rest of the team’s findings. At the very least it is, as with the other datasets evaluated, a signal that the processes involved in their creation need to be reevaluated.I’ve asked the researchers for a bit more information on the paper and will update this post if I hear back. In the meantime you can read the full paper, which was presented at the Proceedings of the Association for Computational Linguistics in Florence, below:The Risk of Racial Bias in Hate Speech Detection by TechCrunch on Scribd
Weiter zum vollständigen Artikel bei "TechCrunch"
Quelle: TechCrunch

Nachrichten zu Alphabet C (ex Google)

  • Relevant
  • Alle
  • vom Unternehmen
  • Peer Group
  • ?

Um Ihnen die Übersicht über die große Anzahl an Nachrichten, die jeden Tag für ein Unternehmen erscheinen, etwas zu erleichtern, haben wir den Nachrichtenfeed in folgende Kategorien aufgeteilt:

Relevant: Nachrichten von ausgesuchten Quellen, die sich im Speziellen mit diesem Unternehmen befassen

Alle: Alle Nachrichten, die dieses Unternehmen betreffen. Z.B. auch Marktberichte die außerdem auch andere Unternehmen betreffen

vom Unternehmen: Nachrichten und Adhoc-Meldungen, die vom Unternehmen selbst veröffentlicht werden

Peer Group: Nachrichten von Unternehmen, die zur Peer Group gehören

Analysen zu Alphabet C (ex Google)

  • Alle
  • Buy
  • Hold
  • Sell
  • ?
06.08.2019Alphabet C (ex Google) buyDeutsche Bank AG
26.07.2019Alphabet C (ex Google) buyUBS AG
26.07.2019Alphabet C (ex Google) BuyThe Benchmark Company
29.05.2019Alphabet C (ex Google) HoldPivotal Research Group
15.05.2019Alphabet C (ex Google) buyUBS AG
06.08.2019Alphabet C (ex Google) buyDeutsche Bank AG
26.07.2019Alphabet C (ex Google) buyUBS AG
26.07.2019Alphabet C (ex Google) BuyThe Benchmark Company
15.05.2019Alphabet C (ex Google) buyUBS AG
15.05.2019Alphabet C (ex Google) BuyDeutsche Bank AG
29.05.2019Alphabet C (ex Google) HoldPivotal Research Group
26.10.2018Alphabet C (ex Google) HoldCanaccord Adams
17.08.2018Alphabet C (ex Google) HoldMorningstar
02.04.2018Alphabet C (ex Google) HoldPivotal Research Group
12.10.2017Alphabet C (ex Google) HoldPivotal Research Group

Keine Analysen im Zeitraum eines Jahres in dieser Kategorie verfügbar.

Eventuell finden Sie Nachrichten die älter als ein Jahr sind im Archiv

Um die Übersicht zu verbessern, haben Sie die Möglichkeit, die Analysen für Alphabet C (ex Google) nach folgenden Kriterien zu filtern.

Alle: Alle Empfehlungen

Buy: Kaufempfehlungen wie z.B. "kaufen" oder "buy"

Hold: Halten-Empfehlungen wie z.B. "halten" oder "neutral"

Sell: Verkaufsempfehlungn wie z.B. "verkaufen" oder "reduce"
mehr Analysen
Werbung
Werbung
Börse Stuttgart Anlegerclub

Die richtige Strategie für die Börsenkrise

Stecken Sie nicht den Sand in den Kopf, sondern kaufen Sie die richtigen Aktien. Erfahren Sie im aktuellen Anlegermagazin mehr über attraktive Qualitätsaktien und zyklische Aktien
Kostenfrei registrieren und lesen!

Heute im Fokus

DAX geht mit Abgaben ins Wochenende -- US-Börsen stürzen ab -- Salesforce überraschend optimistisch -- thyssenkrupp will wohl KlöCo übernehmen -- Wirecard, Lufthansa im Fokus

HP bekommt neuen Chef. VW will sich womöglich an chinesischen Zulieferern beteiligen. Google ändert Android-Namensgebung. Commerzbank prüft wohl weiteren Abbau von bis zu 2500 Stellen. Continental will angeblich neun Werke schließen. Daimler hält an Kooperation mit Renault fest.

Die 5 beliebtesten Top-Rankings

Das hat sich geändert
Diese Aktien hat George Soros im Depot
Die 12 toten Topverdiener 2019
Diese Legenden sind die bestbezahlten Toten der Welt
Big-Mac-Index
In welchen Ländern kostet der Big Mac wie viel?
Das verdienen Aufsichtsratschefs in DAX-Konzernen
Deutlich unter Vorstandsgehältern
Die Länder mit den größten Goldreserven 2019
Wer lagert das meiste Gold?
mehr Top Rankings

Umfrage

Die Marktturbulenzen nehmen zu. Investieren Sie nun vermehrt in "sichere Häfen"?

Online Brokerage über finanzen.net

finanzen.net Brokerage
Handeln Sie für nur 5 Euro Orderprovision* pro Trade aus der Informationswelt von finanzen.net!

ETF-Sparplan

Oskar ist der einfache und intelligente ETF-Sparplan. Er übernimmt die ETF-Auswahl, ist steuersmart, transparent und kostengünstig.
Zur klassischen Ansicht wechseln
Kontakt - Impressum - Werben - Pressemehr anzeigen
Top News
Beliebte Suchen
DAX 30
Öl
Euro US-Dollar
Bitcoin
Goldpreis
Meistgesucht
MTU Aero Engines AG Em 2017A2G83P
Braas Monier Building Group S.A.BMSA01
Deutsche Bank AG514000
Microsoft Corp.870747
Daimler AG710000
Scout24 AGA12DM8
Apple Inc.865985
Amazon906866
Wirecard AG747206
Allianz840400
TeslaA1CX3T
BMW AG519000
CommerzbankCBK100
BASFBASF11
E.ON SEENAG99