US-Plattform „Predictim“ sucht mittels KI den „perfekten Babysitter“: Für Datenschützer ein No-Go

Irgendwie verständlich. Der Babysitter für den Nachwuchs sollte perfekt sein. Aber ein eigenes KI-System, das Social Media-Aktivitäten der Kandidaten untersucht und dann nicht wirklich nachvollziehbare Empfehlungen ausspricht? Die amerikanische Plattform „Predictim“ bietet genau diesen Dienst an – sehr zum Missfallen von Datenschützern und KI-Kritikern.

Sämtliche Social Media-Postings werden geprüft

Man nehme die Tausenden Postings von Facebook, Twitter und Instagram, die ein Babysitter-Bewerber jemals verfasst hat und lasse diese von einer künstlichen Intelligenz analysieren. Als Ergebnis erhält man ganz konkrete Hinweise zur Tauglichkeit als Babysitter bzw. mit der Person angeblich verbundene Risiken.

Zeigen Social Media den Charakter eines Menschen?

Beispielsweise, ob der Kandidat zum Drogenkonsum neigt. Oder ob die Gefahr von Mobbing, Respektlosigkeit oder schlechten Manieren besteht. Ganz einfach nach einem Punktesystem bewertet – 5 Punkte sind das schlechteste Ergebnis. Wie „Predictim“ zu den Ergebnissen kommt, verrät es zwar nicht. Aber die Eltern stört das nicht. Eine Mutter meint beispielsweise, dass Social Media den Charakter eines Menschen sehr gut zeigt. Überhaupt kommt das System in den USA sensationell an.

Der Bewerber bekommt seinen Screening-Bericht nicht zu sehen

Die potenziellen Babysitter müssen zwar mit dem Check einverstanden sein – aber natürlich wird hier Druck von den Predictim-Mitarbeitern gemacht, dass sie ansonsten gar keine Chance auf den Job haben. 25 Dollar fallen für die Eltern an. Sie erhalten einen exklusiven Bericht über das Screening, der auch Aussagen über Eigenschaften wie Höflichkeit, Teamgeist oder Manieren enthält. Der Bewerber selbst bekommt diesen Bericht nie zu Gesicht. Ein System, dass deine Persönlichkeit scannt und du hast keine Ahnung, ob du nicht als potenzieller Psychopath eingestuft wurdest – sehr nett …

Menschlicher Kontext? Fehlanzeige!

Klingt irgendwie dubios? Finden auch diverse Kritiker: Angebote wie Predictim bergen die große Gefahr, dass automatisch und ohne echte Prüfung vielleicht sogar lebensverändernde Entscheidungen getroffen werden. Das System arbeitet mit Black-Box-Algorithmen, die sehr wenig Auskunft darüber geben, wie sie das komplexe Innenleben eines Menschen auf dessen Gut- und Böswilligkeit herunterbrechen. Sogar Facebook hat Probleme, harmlose von Hate-Postings zu unterscheiden.

Und natürlich gibt es auch eine gewisse Fehleranfälligkeit, wie die Washington Post berichtet. Beispielweise verwendete eine Kandidatin Film- und Songzitate auf ihrem Facebook-Account und wurde deswegen als Risiko eingestuft. Es fehle einfach der „menschliche Kontext“, so die Electronic Frontier Foundation. Künstliche Intelligenz eben.

Entscheiden in Zukunft Maschinen über Jobs?

Experten fürchten den Vormarsch von Systemen wie Predictim. Sollen in Zukunft alle Jobs von einer Maschine vergeben werden? Eine Entwicklung in diese Richtung gibt es bereits, viele Unternehmen lassen Lebensläufe von Kandidaten analysieren. Amazon beispielsweise hat seine Entwicklungsarbeit an einem Recruiting-Algorithmus wieder gestoppt. Denn dieser hat männliche Kandidaten bevorzugt, aus Amazons Geschichte heraus, dass in einer von Männern dominierten Technikindustrie Frauen weibliche Kandidaten weniger effizient seien.

Teenager werden überredet, sensible Daten weiterzugeben

Einige KI-Experten glauben, dass derartige Systeme Vorurteile in Bezug auf Alter oder ethnologisches Profiling noch weiter befeuern werden. Außerdem machen sie sich Sorgen, dass junge Babysitter – oftmals noch Teenager – dazu überredet werden, intime persönliche Daten aus der Hand zu geben.

Quelle: Washington Post; Foto: crello.com

Zusammenfassung
Artikel Name
US-Plattform „Predictim“ sucht mittels KI den „perfekten Babysitter“: Für Datenschützer ein No-Go
Beschreibung
Der Babysitter für den Nachwuchs sollte perfekt sein. Aber ein eigenes KI-System, das Social Media-Aktivitäten der Kandidaten untersucht und dann nicht nachvollziehbare Empfehlungen ausspricht? Die amerikanische Plattform „Predictim“ bietet genau diesen Dienst an – zum Missfallen von Datenschützern und KI-Kritikern.
Author
Veröffentlicher
vpn-blog.de
Logo

Schreibe einen Kommentar

Weitere Artikel

/ Überwachung
Du erzählst Alexa so einiges? Achtung: Tausende Amazon Mitarbeiter hören mit!

Du erzählst Alexa so einiges? Achtung: Tausende Amazon Mitarbeiter hören mit!

Wir hatten Alexa immer schon im Verdacht, in Wirklichkeit eine Spionin zu sein. Das ist sie auch – zumindest in Sachen Produktverbesserung: Denn ein globales Team Tausender Amazon-Mitarbeiter hört sich tagtäglich Aufzeichnungen der gesamt Millionen Alexa-Kunden an, um der sprachgesteuerten Assistentin bei der Befehlserkennung zu helfen. Von dieser Abhöraktion wissen die User aber natürlich wieder einmal nichts. Millionen von Menschen vertrauen auf die Hilfe von Echos wie Alexa – letztes Jahr wurden laut einer Studie weltweit 78 Millionen Smart Speaker ...
Weiterlesen …
/ Politik
Es wird dunkel im Darknet – Bundesrat beschließt Gesetzesvorlage zum totalen Verbot. Was bedeutet das für dich?

Es wird dunkel im Darknet – Bundesrat beschließt Gesetzesvorlage zum totalen Verbot. Was bedeutet das für dich?

Aus dem Innenministerium kam die Forderung, dem Darknet das Licht auszuknipsen. Kaum sind 4 Wochen vergangen, schon will der Bundesrat Nägel mit Köpfen machen und liefert den konkreten Entwurf für ein entsprechendes Gesetz. Was wird sich für dich im Internet ändern? Die nächste Neuerung, die zu deinen Lasten geht Zu früh gefreut, denn im ersten Moment klingt so ein Gesetz nach mehr Sicherheit. Das Darknet ist der virtuelle Ort, an dem illegale Waffenhändler, Kriminelle, Pädophile und sonstige Perverse ihr Unwesen ...
Weiterlesen …
/ Allgemein
Zeigt her eure Daten: Facebook wollte die Passwörter für E-Mail-Konten

Zeigt her eure Daten: Facebook wollte die Passwörter für E-Mail-Konten

Facebook und die Daten. Aus diesem Dilemma scheint es wirklich keinen Ausweg mehr zu geben. Mittlerweile wird so ziemlich jeder darüber Bescheid wissen, dass Facebook kein Aushängeschild für optimalen Datenschutz ist. Die letzten Jahre sind von zahlreichen Datenschutzskandalen rund um den Internetkonzern geprägt. Eine Frage, die sich in diesem Zusammenhang immer wieder aufdrängt, ist die Frage nach dem Grund für ein derartig schlampiges Werken. Was jetzt wieder an die Öffentlichkeit kam, ist beinahe nicht zu glauben. Facebook verlangte tatsächlich die ...
Weiterlesen …
/ Politik, Überwachung
Digitalsteuer in Österreich: Die totale Überwachung im Internet per Gesetz und warum es dich auch als Nicht-Österreicher betrifft

Digitalsteuer in Österreich: Die totale Überwachung im Internet per Gesetz und warum es dich auch als Nicht-Österreicher betrifft

Im beschaulichen Österreich hängt ein Damokles-Schwert über den Köpfen aller Internet-Nutzer. IT Unternehmen sollen gesetzlich dazu verpflichtet werden, Daten wie den Standort und IP-Nummern nicht nur zu sammeln, sondern auch 7 Jahre lang aufzubewahren. Wir formulieren es schonungslos: Bist du aus Österreich, wird deine Anonymität zum Schnäppchenpreis verscherbelt. Immer auf die Kleinen Zuletzt wurde auf EU-Ebene diskutiert, digitale Großkonzerne mit einer Steuer zu belegen. Damit sollte ein faires Gleichgewicht zwischen allen Unternehmern geschaffen werden, die Geld durch Werbeeinnahmen generieren. Es ...
Weiterlesen …
Wird geladen...