Οι λογαριασμοί των γονέων κατασχέθηκαν αφού ο τεχνολογικός γίγαντας τους επισήμανε ως κακοποιούς παιδιών – ακόμη και αφού η αστυνομία τους αθώωσε

Η ενισχυμένη σταυροφορία της Google κατά της σεξουαλικής εκμετάλλευσης παιδιών στις πλατφόρμες της κινδυνεύει να καταστρέψει τις ζωές των ίδιων των παιδιών που υποτίθεται ότι σώζει – καθώς και αθώων γονέων – αφήνοντας τη φήμη τους, την ελευθερία τους και ίσως ακόμη και την επιβίωση της οικογενειακής τους μονάδας στα χέρια ενός υπερβάλλοντος ζήλου αλγορίθμου, αποκάλυψε έρευνα των New York Times που δημοσιεύθηκε την Κυριακή.

Δύο τελείως άσχετοι πατέρες μικρών παιδιών βίωσαν σχεδόν πανομοιότυπους καφκικούς εφιάλτες, χαρακτηριζόμενοι ως παιδεραστές για τίποτα πιο σκοτεινό από το να προσπαθούν να εξασφαλίσουν στα νήπια τους ιατρική βοήθεια. Ο μπαμπάς Mark από το Σαν Φρανσίσκο και ο μπαμπάς Cassio από το Χιούστον δεν σκέφτηκαν καθόλου να στείλουν φωτογραφίες των πρησμένων γεννητικών οργάνων των γιων τους κατόπιν αιτήματος των παιδιάτρων τους, μια πρακτική που έχει γίνει απολύτως φυσιολογική στο μεταπανδημικό παράδειγμα.

Καθώς ο γιος του ανάρρωνε, ο Μαρκ ξύπνησε από το τηλέφωνο του Google Fi ενημερώνοντάς τον ότι είχε ανακαλυφθεί «επιβλαβές περιεχόμενο» – ενδεχομένως παράνομο. Προσπαθώντας να ασκήσει έφεση κατά της απόφασης, έλαβε απόρριψη και καμία περαιτέρω επικοινωνία από την Google. Ο Μαρκ έχασε την πρόσβαση στο τηλέφωνό του, το ηλεκτρονικό του ταχυδρομείο, τις επαφές του και οτιδήποτε άλλο έχει αναλάβει η Google ως μία από τις μεγαλύτερες εταιρείες στον κόσμο. Όλα τα δεδομένα του, συμπεριλαμβανομένων των φωτογραφιών και των βίντεο, ήταν κλειδωμένα στο Cloud.

Η Google βρήκε ένα άλλο βίντεο που ενεργοποίησε τους συναγερμούς της κατά τη σάρωση αυτών των αρχείων. Ενώ η τεχνολογία για την ανίχνευση φωτογραφιών κακοποιημένων και εκμεταλλευόμενων παιδιών στηριζόταν αρχικά σε μια βάση δεδομένων με γνωστές εικόνες σεξουαλικής εκμετάλλευσης, η σχετικά πρόσφατη συμβολή της Google στη σταυροφορία είναι ένα εργαλείο τεχνητής νοημοσύνης που ισχυρίζεται ότι είναι σε θέση να αναγνωρίζει εικόνες εκμετάλλευσης παιδιών που δεν έχουν δει ποτέ πριν με βάση την ομοιότητά τους με υπάρχουσες εικόνες.

Αντί να επιστρατεύσει έναν ανθρώπινο συντονιστή για να επαληθεύσει ότι η φωτογραφία είναι όντως καταχρηστική πριν προχωρήσει, η διαδικασία της Google μόλις νομίζει ότι εντοπίζει μια τέτοια εικόνα είναι να κλειδώσει τον λογαριασμό, να σαρώσει κάθε άλλη εικόνα που έχει και να καλέσει το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά, το οποίο δίνει προτεραιότητα σε όσα πιστεύει ότι είναι νέα θύματα. Εν τω μεταξύ, οι εικόνες που έχουν επισημανθεί λανθασμένα προστίθενται στη βάση δεδομένων για τα παιδιά που υφίστανται εκμετάλλευση, οπότε ακόμη και πιο αθώες εικόνες παιδιών όπως του Mark και του Cassio κινδυνεύουν να ενεργοποιήσουν κόκκινες σημαίες.

Η αστυνομία του Σαν Φρανσίσκο, η οποία είχε ξεκινήσει έρευνα μετά την επισήμανση του βίντεο του Μαρκ από τη Google, εξασφάλισε αντίγραφο κυριολεκτικά των πάντων στους λογαριασμούς του στη Google, από τις αναζητήσεις του στο διαδίκτυο και το ιστορικό τοποθεσίας του, τα μηνύματα και τα έγγραφα που είχε στείλει και λάβει, καθώς και τις φωτογραφίες και τα βίντεο που ήταν αποθηκευμένα στο cloud. Εφοδιασμένοι με τα ίδια δεδομένα που είχε χρησιμοποιήσει η Google για να τον κηρύξει παιδεραστή, έκριναν ότι δεν είχε διαπραχθεί κανένα έγκλημα και έκλεισαν την υπόθεση.

Η Google δεν έδειξε τόση κατανόηση. Ακόμη και όταν ο Μαρκ ζήτησε από τον επικεφαλής ντετέκτιβ της υπόθεσής του να παρέμβει για λογαριασμό του, ο αξιωματικός είπε ότι δεν μπορούσε να κάνει τίποτα. Εξακολουθεί να μην έχει πρόσβαση στο λογαριασμό του.

Η υπόθεση του Cassio εξελίχθηκε σχεδόν με τον ίδιο ακριβώς τρόπο, με την αστυνομία του Χιούστον να αποσύρει την υπόθεση μόλις προσκόμισε τις επικοινωνίες από τον παιδίατρο. Η Google δεν θα επιστρέψει τα δεδομένα του.

Παρά το γεγονός ότι η αστυνομία αθώωσε τους γονείς, η Google επέμεινε στην απόφασή της να εξακολουθεί να χαρακτηρίζει τους γονείς ως παιδεραστές και να μπλοκάρει όλα τα δεδομένα τους. «Το υλικό σεξουαλικής κακοποίησης παιδιών είναι αποτρόπαιο και δεσμευόμαστε να αποτρέψουμε τη διάδοσή του στις πλατφόρμες μας», ανέφερε η εταιρεία σε ανακοίνωσή της, σύμφωνα με τους New York Times. Δεν είναι γνωστό πόσες υποθέσεις της Υπηρεσίας Προστασίας Παιδιών έχουν ανοίξει βάσει τέτοιων «λαθών», ούτε πόσες κινδύνεψαν να καταλήξουν με την απομάκρυνση ενός παιδιού από το σπίτι ή τη σύλληψη ενός γονέα, καθώς ακόμη και οι άδικα κατηγορούμενοι για παιδική κακοποίηση γενικά σιωπούν γι’ αυτό.


Μετάφραση από το πρωτότυπο: Καταχανάς (Γ. Μεταξάς)

RT news