US-Plattform „Predictim“ sucht mittels KI den „perfekten Babysitter“: Für Datenschützer ein No-Go

Irgendwie verständlich. Der Babysitter für den Nachwuchs sollte perfekt sein. Aber ein eigenes KI-System, das Social Media-Aktivitäten der Kandidaten untersucht und dann nicht wirklich nachvollziehbare Empfehlungen ausspricht? Die amerikanische Plattform „Predictim“ bietet genau diesen Dienst an – sehr zum Missfallen von Datenschützern und KI-Kritikern.

Sämtliche Social Media-Postings werden geprüft

Man nehme die Tausenden Postings von Facebook, Twitter und Instagram, die ein Babysitter-Bewerber jemals verfasst hat und lasse diese von einer künstlichen Intelligenz analysieren. Als Ergebnis erhält man ganz konkrete Hinweise zur Tauglichkeit als Babysitter bzw. mit der Person angeblich verbundene Risiken.

Zeigen Social Media den Charakter eines Menschen?

Beispielsweise, ob der Kandidat zum Drogenkonsum neigt. Oder ob die Gefahr von Mobbing, Respektlosigkeit oder schlechten Manieren besteht. Ganz einfach nach einem Punktesystem bewertet – 5 Punkte sind das schlechteste Ergebnis. Wie „Predictim“ zu den Ergebnissen kommt, verrät es zwar nicht. Aber die Eltern stört das nicht. Eine Mutter meint beispielsweise, dass Social Media den Charakter eines Menschen sehr gut zeigt. Überhaupt kommt das System in den USA sensationell an.

Der Bewerber bekommt seinen Screening-Bericht nicht zu sehen

Die potenziellen Babysitter müssen zwar mit dem Check einverstanden sein – aber natürlich wird hier Druck von den Predictim-Mitarbeitern gemacht, dass sie ansonsten gar keine Chance auf den Job haben. 25 Dollar fallen für die Eltern an. Sie erhalten einen exklusiven Bericht über das Screening, der auch Aussagen über Eigenschaften wie Höflichkeit, Teamgeist oder Manieren enthält. Der Bewerber selbst bekommt diesen Bericht nie zu Gesicht. Ein System, dass deine Persönlichkeit scannt und du hast keine Ahnung, ob du nicht als potenzieller Psychopath eingestuft wurdest – sehr nett …

Menschlicher Kontext? Fehlanzeige!

Klingt irgendwie dubios? Finden auch diverse Kritiker: Angebote wie Predictim bergen die große Gefahr, dass automatisch und ohne echte Prüfung vielleicht sogar lebensverändernde Entscheidungen getroffen werden. Das System arbeitet mit Black-Box-Algorithmen, die sehr wenig Auskunft darüber geben, wie sie das komplexe Innenleben eines Menschen auf dessen Gut- und Böswilligkeit herunterbrechen. Sogar Facebook hat Probleme, harmlose von Hate-Postings zu unterscheiden.

Und natürlich gibt es auch eine gewisse Fehleranfälligkeit, wie die Washington Post berichtet. Beispielweise verwendete eine Kandidatin Film- und Songzitate auf ihrem Facebook-Account und wurde deswegen als Risiko eingestuft. Es fehle einfach der „menschliche Kontext“, so die Electronic Frontier Foundation. Künstliche Intelligenz eben.

Entscheiden in Zukunft Maschinen über Jobs?

Experten fürchten den Vormarsch von Systemen wie Predictim. Sollen in Zukunft alle Jobs von einer Maschine vergeben werden? Eine Entwicklung in diese Richtung gibt es bereits, viele Unternehmen lassen Lebensläufe von Kandidaten analysieren. Amazon beispielsweise hat seine Entwicklungsarbeit an einem Recruiting-Algorithmus wieder gestoppt. Denn dieser hat männliche Kandidaten bevorzugt, aus Amazons Geschichte heraus, dass in einer von Männern dominierten Technikindustrie Frauen weibliche Kandidaten weniger effizient seien.

Teenager werden überredet, sensible Daten weiterzugeben

Einige KI-Experten glauben, dass derartige Systeme Vorurteile in Bezug auf Alter oder ethnologisches Profiling noch weiter befeuern werden. Außerdem machen sie sich Sorgen, dass junge Babysitter – oftmals noch Teenager – dazu überredet werden, intime persönliche Daten aus der Hand zu geben.

Quelle: Washington Post; Foto: crello.com


Erstellt am:29. Dezember 2018

Schreibe einen Kommentar

Weitere Artikel

/ / Datenschutz, Politik
Führt EU Vorratsdatenspeicherung ein?

E-Privacy-Verordnung mit Vorratsdatenspeicherung? Alarm bei Datenschützern

Neben dem Datenschutz ist der EU auch die Sicherheit im Internet ein großes Anliegen. Deswegen bastelt diese auch bereits 2017 an einer entsprechenden Verordnung zur E-Privacy. An sich eine gute Sache, die aber nun vom finnischen Ratsvorsitz verwässert werden soll. Dieser plant nämlich die Erlaubnis der Vorratsdatenspeicherung! E-Privacy für mehr Datenschutz & weniger Tracking Unter anderem setzt die E-Privacy-Verordnung an Messengerdiensten und anderen Online-Kommunikationsmitteln an. Hier soll der Datenschutz verbessert werden. Und auch dem munteren Tracking, das ja fast auf ...
Weiterlesen …
/ / Allgemein, Datenschutz
Polizist mit Bodycam

Bodycam-Videos der Bundespolizei landen nach wie vor auf Amazon-Servern

Amazon & Co haben in Bezug auf Datenschutz nicht gerade das beste Renommee. Entsprechend würde man meinen, dass Behörden nicht unbedingt auf deren Dienste zurückgreifen. Nicht so die deutsche Bundespolizei: Sie speichert ihre Bodycam-Aufnahmen auf Amazon Servern – nach wie vor! Bereits im März diesen Jahres kam es zum großen Knall. Damals wurde bekannt, dass die Bundespolizei Videos ihrer Bodycams auf Servern von Amazon speichert. Das, da es angeblich keine adäquate eigene Infrastruktur gebe. Die Cloudlösung von Amazon hingegen sei ...
Weiterlesen …
/ / Allgemein, Datenschutz
Pass auf deine „alten“ E-Mail-Adressen auf – Betrüger unterwegs!

Pass auf deine „alten“ E-Mail-Adressen auf – Betrüger unterwegs!

Hast du noch E-Mail-Adressen, die du schon längst nicht mehr nutzt? Dann ist diese Warnung des Bundeskriminalamts für dich wesentlich: Momentan kapern Cyber-Kriminelle nicht mehr genutzte E-Mail-Adressen und erschleichen sich damit den Zugang zu Social Media-Accounts & Co! Wir sagen dir, wie du dich vor dieser neuen Betrugsmasche schützen kannst! In deinen persönlichen Accounts finden sich meist wichtige persönliche Daten und andere Infos. Und die sollen auch persönlich bleiben. Leider gibt es aber viele Risiken für deine Privatsphäre. Eine neue ...
Weiterlesen …
Google Chrome Fehler mit Warnstufe "hoch" behoben

Google Chrome Fehler mit Warnstufe „hoch“ behoben

Das Neue Update des Google Chrome Browsers ist da und sollte unbedingt sofort gemacht werden, denn Fehler wurden behoben! Prinzipiell geschieht das automatisch, außer man hat den Browser seit mehreren Tagen nicht mehr neu gestartet. Version 78.0.3904.87 - Zwei schwere Lücken behoben Einen häufig vorkommenden Bug, genannt: "Use-After-Free" hat man bereits behoben. Dieser wurde am 29. Oktober 2019 von einem Sicherheitsforscher von Kaspersky entdeckt und sofort gemeldet und breits zwei Tage später war das Update bereits fertig. Bei diesem Bug ...
Weiterlesen …
Wird geladen...