US-Plattform „Predictim“ sucht mittels KI den „perfekten Babysitter“: Für Datenschützer ein No-Go

Irgendwie verständlich. Der Babysitter für den Nachwuchs sollte perfekt sein. Aber ein eigenes KI-System, das Social Media-Aktivitäten der Kandidaten untersucht und dann nicht wirklich nachvollziehbare Empfehlungen ausspricht? Die amerikanische Plattform „Predictim“ bietet genau diesen Dienst an – sehr zum Missfallen von Datenschützern und KI-Kritikern.

Sämtliche Social Media-Postings werden geprüft

Man nehme die Tausenden Postings von Facebook, Twitter und Instagram, die ein Babysitter-Bewerber jemals verfasst hat und lasse diese von einer künstlichen Intelligenz analysieren. Als Ergebnis erhält man ganz konkrete Hinweise zur Tauglichkeit als Babysitter bzw. mit der Person angeblich verbundene Risiken.

Zeigen Social Media den Charakter eines Menschen?

Beispielsweise, ob der Kandidat zum Drogenkonsum neigt. Oder ob die Gefahr von Mobbing, Respektlosigkeit oder schlechten Manieren besteht. Ganz einfach nach einem Punktesystem bewertet – 5 Punkte sind das schlechteste Ergebnis. Wie „Predictim“ zu den Ergebnissen kommt, verrät es zwar nicht. Aber die Eltern stört das nicht. Eine Mutter meint beispielsweise, dass Social Media den Charakter eines Menschen sehr gut zeigt. Überhaupt kommt das System in den USA sensationell an.

Der Bewerber bekommt seinen Screening-Bericht nicht zu sehen

Die potenziellen Babysitter müssen zwar mit dem Check einverstanden sein – aber natürlich wird hier Druck von den Predictim-Mitarbeitern gemacht, dass sie ansonsten gar keine Chance auf den Job haben. 25 Dollar fallen für die Eltern an. Sie erhalten einen exklusiven Bericht über das Screening, der auch Aussagen über Eigenschaften wie Höflichkeit, Teamgeist oder Manieren enthält. Der Bewerber selbst bekommt diesen Bericht nie zu Gesicht. Ein System, dass deine Persönlichkeit scannt und du hast keine Ahnung, ob du nicht als potenzieller Psychopath eingestuft wurdest – sehr nett …

Menschlicher Kontext? Fehlanzeige!

Klingt irgendwie dubios? Finden auch diverse Kritiker: Angebote wie Predictim bergen die große Gefahr, dass automatisch und ohne echte Prüfung vielleicht sogar lebensverändernde Entscheidungen getroffen werden. Das System arbeitet mit Black-Box-Algorithmen, die sehr wenig Auskunft darüber geben, wie sie das komplexe Innenleben eines Menschen auf dessen Gut- und Böswilligkeit herunterbrechen. Sogar Facebook hat Probleme, harmlose von Hate-Postings zu unterscheiden.

Und natürlich gibt es auch eine gewisse Fehleranfälligkeit, wie die Washington Post berichtet. Beispielweise verwendete eine Kandidatin Film- und Songzitate auf ihrem Facebook-Account und wurde deswegen als Risiko eingestuft. Es fehle einfach der „menschliche Kontext“, so die Electronic Frontier Foundation. Künstliche Intelligenz eben.

Entscheiden in Zukunft Maschinen über Jobs?

Experten fürchten den Vormarsch von Systemen wie Predictim. Sollen in Zukunft alle Jobs von einer Maschine vergeben werden? Eine Entwicklung in diese Richtung gibt es bereits, viele Unternehmen lassen Lebensläufe von Kandidaten analysieren. Amazon beispielsweise hat seine Entwicklungsarbeit an einem Recruiting-Algorithmus wieder gestoppt. Denn dieser hat männliche Kandidaten bevorzugt, aus Amazons Geschichte heraus, dass in einer von Männern dominierten Technikindustrie Frauen weibliche Kandidaten weniger effizient seien.

Teenager werden überredet, sensible Daten weiterzugeben

Einige KI-Experten glauben, dass derartige Systeme Vorurteile in Bezug auf Alter oder ethnologisches Profiling noch weiter befeuern werden. Außerdem machen sie sich Sorgen, dass junge Babysitter – oftmals noch Teenager – dazu überredet werden, intime persönliche Daten aus der Hand zu geben.

Quelle: Washington Post; Foto: crello.com


Erstellt am: 29. Dezember 2018

Schreibe einen Kommentar

Weitere Artikel

/ / Allgemein
UFC 283: Teixeira vs. Hill überall sehen

UFC 283: Teixeira vs. Hill überall sehen

Wer wird in wenigen Tagen in Rio de Janeiro in einem Kampf zwischen Glover Teixeira und Jamahal Hill zum Champion im Weltergewicht? Wir sagen dir, wo und wie du UFC 283 live sehen kannst! UFC 283: Teixeira vs. Hill LIVE – Überblick Termin: Samstag, 21. Januar, 2023 Überall streamen mit VPN: Jetzt Surfshark sichern – mit 82% Rabatt! Streaming in den USA: ESPN Streaming in Großbritannien: BT Sport (mit Internetzugang) Streaming in Deutschland, Österreich: DAZN Die UFC & die UFC ...
Weiterlesen …
So kannst du ‚That 90s Show‘ überall streamen! 2023

So kannst du ‚That 90s Show‘ überall streamen! 2023

Netflix hat den offiziellen Veröffentlichungstermin für ‚That 90s Show‚ bekannt gegeben. Die Spin-Off-Serie wird sehr bald auf dem Sender erscheinen, bereits am 19. Januar 2023! Die Serie wird auf Netflix um 12:00pm PT/3:00pm ET ausgestrahlt! Inhaltsverzeichnis Worum geht es in der „That 90s Show“? Die ‚That 90s Show‘ ist eine interessante neue Teenager-Serie. Es handelt sich um ein Spin-off der beliebten Sitcom The ’70s Show, das in den 1990er Jahren spielt. Im Mittelpunkt der Serie steht Lea Forman, die den ...
Weiterlesen …
Abkoppeln: Russland macht sich im Internet selbständig

Abkoppeln: Russland macht sich im Internet selbständig

Russland treibt im digitalen Bereich die Entkopplung von westlichen Anbietern voran. Der Ukraine-Konflikt und die damit verbundenen westlichen Sanktionen wirken als Beschleuniger. Ziel ist die digitale Souveränität. Deutschland verlässt sich weiterhin auf die USA. Inhaltsverzeichnis Die große Abkopplung von Internet-Abhängigkeiten Der Ukraine-Konflikt hat eins ganz deutlich gemacht: Der Westen ist bereit, alle Mittel einzusetzen und zu politisieren, um seine Ziele zu erreichen. Er schreckt nicht davor zurück, gegen internationale Handelsabkommen zu verstoßen, politisiert seine Währungen und macht auch das Internet ...
Weiterlesen …
/ / Allgemein
Telegram ohne Simkarte verwenden – Telegram versteigert eigene Nummern

Telegram ohne Simkarte verwenden – Telegram versteigert eigene Nummern

Telegram bietet eine Möglichkeit den Service auch ohne eine persönliche Rufnummer oder Simkarten verwenden zu können. Dabei werden spezielle nicht existierende Rufnummern die mit +888 beginnen in einer Auktion versteigert. Wir haben dies ausprobiert und möchten darüber berichten. Telegram mit anonymen Nummern verwenden? Wir es bereits „Benutzernamen bei Telegram“ zu ersteigern gibt, kann man nun auch „anonyme Nummern“ ersteigern um das eigene Konto damit zu verwenden. Dadurch wird der Wunsch vieler Anwender Realität, dass sie telegram auch ohne eine persönliche ...
Weiterlesen …
Wird geladen...