US-Plattform „Predictim“ sucht mittels KI den „perfekten Babysitter“: Für Datenschützer ein No-Go

Irgendwie verständlich. Der Babysitter für den Nachwuchs sollte perfekt sein. Aber ein eigenes KI-System, das Social Media-Aktivitäten der Kandidaten untersucht und dann nicht wirklich nachvollziehbare Empfehlungen ausspricht? Die amerikanische Plattform „Predictim“ bietet genau diesen Dienst an – sehr zum Missfallen von Datenschützern und KI-Kritikern.

Sämtliche Social Media-Postings werden geprüft

Man nehme die Tausenden Postings von Facebook, Twitter und Instagram, die ein Babysitter-Bewerber jemals verfasst hat und lasse diese von einer künstlichen Intelligenz analysieren. Als Ergebnis erhält man ganz konkrete Hinweise zur Tauglichkeit als Babysitter bzw. mit der Person angeblich verbundene Risiken.

Zeigen Social Media den Charakter eines Menschen?

Beispielsweise, ob der Kandidat zum Drogenkonsum neigt. Oder ob die Gefahr von Mobbing, Respektlosigkeit oder schlechten Manieren besteht. Ganz einfach nach einem Punktesystem bewertet – 5 Punkte sind das schlechteste Ergebnis. Wie „Predictim“ zu den Ergebnissen kommt, verrät es zwar nicht. Aber die Eltern stört das nicht. Eine Mutter meint beispielsweise, dass Social Media den Charakter eines Menschen sehr gut zeigt. Überhaupt kommt das System in den USA sensationell an.

Der Bewerber bekommt seinen Screening-Bericht nicht zu sehen

Die potenziellen Babysitter müssen zwar mit dem Check einverstanden sein – aber natürlich wird hier Druck von den Predictim-Mitarbeitern gemacht, dass sie ansonsten gar keine Chance auf den Job haben. 25 Dollar fallen für die Eltern an. Sie erhalten einen exklusiven Bericht über das Screening, der auch Aussagen über Eigenschaften wie Höflichkeit, Teamgeist oder Manieren enthält. Der Bewerber selbst bekommt diesen Bericht nie zu Gesicht. Ein System, dass deine Persönlichkeit scannt und du hast keine Ahnung, ob du nicht als potenzieller Psychopath eingestuft wurdest – sehr nett …

Menschlicher Kontext? Fehlanzeige!

Klingt irgendwie dubios? Finden auch diverse Kritiker: Angebote wie Predictim bergen die große Gefahr, dass automatisch und ohne echte Prüfung vielleicht sogar lebensverändernde Entscheidungen getroffen werden. Das System arbeitet mit Black-Box-Algorithmen, die sehr wenig Auskunft darüber geben, wie sie das komplexe Innenleben eines Menschen auf dessen Gut- und Böswilligkeit herunterbrechen. Sogar Facebook hat Probleme, harmlose von Hate-Postings zu unterscheiden.

Und natürlich gibt es auch eine gewisse Fehleranfälligkeit, wie die Washington Post berichtet. Beispielweise verwendete eine Kandidatin Film- und Songzitate auf ihrem Facebook-Account und wurde deswegen als Risiko eingestuft. Es fehle einfach der „menschliche Kontext“, so die Electronic Frontier Foundation. Künstliche Intelligenz eben.

Entscheiden in Zukunft Maschinen über Jobs?

Experten fürchten den Vormarsch von Systemen wie Predictim. Sollen in Zukunft alle Jobs von einer Maschine vergeben werden? Eine Entwicklung in diese Richtung gibt es bereits, viele Unternehmen lassen Lebensläufe von Kandidaten analysieren. Amazon beispielsweise hat seine Entwicklungsarbeit an einem Recruiting-Algorithmus wieder gestoppt. Denn dieser hat männliche Kandidaten bevorzugt, aus Amazons Geschichte heraus, dass in einer von Männern dominierten Technikindustrie Frauen weibliche Kandidaten weniger effizient seien.

Teenager werden überredet, sensible Daten weiterzugeben

Einige KI-Experten glauben, dass derartige Systeme Vorurteile in Bezug auf Alter oder ethnologisches Profiling noch weiter befeuern werden. Außerdem machen sie sich Sorgen, dass junge Babysitter – oftmals noch Teenager – dazu überredet werden, intime persönliche Daten aus der Hand zu geben.

Quelle: Washington Post; Foto: crello.com


Erstellt am: 29. Dezember 2018

Schreibe einen Kommentar

Weitere Artikel

/ / Allgemein, Datenschutz
Bitcoin anonym kaufen

VPN für Krypto: Bitcoin anonym kaufen

Wenn du dir die Frage stellst, wie man Bitcoin anonym kaufen kann, dann bist du hier genau richtig! Ich erkläre dir im folgenden Artikel, wie und warum man einen VPN für Krypto nutzen sollte. Solltest du noch keinen geeigneten VPN-Anbieter gefunden haben, dann sieh dir mal unsere Top 5 VPN-Services an! Was ist eine Kryptowährung? Kryptowährungen sind digitale Währungen, die ähnlich, wie unser normales Geld funktionieren. Man kann damit ganz normal Dienstleistungen und Produkte kaufen. Der Unterschied liegt darin, dass ...
Weiterlesen …
/ / Allgemein
Chat-App Clubhouse

Ist die Clubhouse App sicher?

Momentan ist Clubhouse in aller Munde – aber die neuartige Chat-App scheint einige grundlegende Sicherheitsregeln für ihre User nicht einzuhalten. Und auch mit dem Schutz der Privatsphäre sieht es nicht mega-rosig aus. Kannst du deine Daten Clubhouse wirklich anvertrauen? Schauen wir uns das mal genauer an! Was ist Clubhouse? Clubhouse ist ein Audio-Chat-Room, an dem man aber nur mit Einladung teilnehmen kann. Die User können Live-Audio-Streams in verschiedenen virtuellen Chat-Rooms anhören und sogar an Diskussionen teilnehmen, wenn der Moderator es ...
Weiterlesen …
/ / Allgemein
Anime Kickass Alternative

Anime Kickass Alternative für 2021

Du suchst eine Anime Kickass Alternative? Animes sind fesselnde Serien, die man leider nicht überall einfach so schauen kann. Bist du jedoch bereits länger ein Anime Freund? Dann kennst du bestimmt Kickass Anime bereits, denn diese Webseite ist äußerst beliebt und super gut, um Animes zu schauen. Viele Länder blockieren den Zugang zu der Webseite leider. Aus diesem Grund haben wir uns bemüht, eine gleichwertige, kostenlose Kickass Alternative zu finden, die genauso viele verschiedene Serien bietet. Bleibt sicher beim Streaming! Solltest ...
Weiterlesen …
/ / Allgemein, Datenschutz
Sichere Email Anbieter

Verschlüsselte & Sichere Email Anbieter 2021

Täglich werden alle paar Sekunden Emails verschickt. Leider ist das nicht so sicher, wie wir es uns wünschen würden. Die native Verschlüsselung von Google Mail, Yahoo oder GMX reichen längst nicht mehr aus. Im folgenden Artikel haben wir ein paar sichere Email Anbieter für das kommende Jahr zusammengefasst. Wieso ist es wichtig sichere Email Anbieter zu nutzen? Anfangs, als die Email erfunden wurde, gab es keine Verschlüsselung und sie wurde einfach direkt über das Internet gesendet. Man konnte sie einfach ...
Weiterlesen …
Wird geladen...