Ο Σουέιλ Ανούν, τεχνικός διευθυντής της εταιρείας ΧΧΙΙ, δεν φοβάται μήπως παραδοξολογήσει επαινώντας το λογισμικό ανάλυσης βίντεο της επιχείρησής του: «Το ονομάζω “εξανθρωπισμό μέσω της αυτοματοποίησης” ή πώς η τεχνητή νοημοσύνη μάς επιτρέπει να κερδίζουμε χρόνο για να τον επενδύουμε σε όσα μας κάνουν να είμαστε ανθρώπινα όντα» (1). Ο συνεταίρος του Ουίλιαμ Έλντεν βλέπει ακόμα πιο μακριά: «Η μαγεία της συνίσταται στο ότι είναι απέραντη και τα όριά της είναι τα όρια της δικής σας φαντασίας». Ποια «μαγεία» τον γεμίζει με τόσο ενθουσιασμό; Η υπολογιστική όραση (computer vision): αλγόριθμοι επεξεργάζονται με αυτόματο τρόπο τα πίξελ των εικόνων που προέρχονται από μια κάμερα προκειμένου να εξάγουν διάφορες πληροφορίες από αυτά.
Έχοντας κάνει την εμφάνισή τους στην αγορά της ασφάλειας των αστικών περιοχών πριν από μερικά χρόνια, αυτές οι νέου τύπου επιχειρήσεις φιλοδοξούν να προκαλέσουν μια επανάσταση στη χρήση της κάμερας χάρη στην αλγοριθμική βιντεοεπιτήρηση. Υποστηρίζουν ότι η χρήση της θα καταστήσει τις πόλεις «πιο ασφαλείς, πιο βιώσιμες, πιο ευχάριστες», όπως υπόσχεται ένα διαφημιστικό σλόγκαν: θα μπορούσε να αποσυμφορήσει τα μέσα μαζικής μεταφοράς και την κίνηση στους δρόμους, να μειώσει κατά 90% την κατανάλωση ρεύματος του δημόσιου φωτισμού, να βρει ένα παιδί χαμένο στο πλήθος, να αναγνωρίσει άτομα που καταρρέουν στον δρόμο μετά από έμφραγμα ή ακόμα και να προλάβει πυρκαγιές εντοπίζοντας το σημείο της εκδήλωσής τους. Όπως υποστηρίζουν οι υπέρμαχοι αυτής της τεχνολογίας, το ένα εκατομμύριο κάμερες που έχουν εγκατασταθεί στους δημόσιους χώρους της Γαλλίας (2) θα μπορούσε να παραγάγει τεράστιες ποσότητες δεδομένων, μέχρι τώρα ανεκμετάλλευτων. Υπό τον όρο φυσικά ότι θα αγοραστούν αυτά τα προϊόντα «υψηλής κοινωνικής αξίας» (3) που εξυμνεί ο Κεντέν Μπαρέν, από την εταιρία Wintics.
Ποιος όμως χρησιμοποιεί πραγματικά αυτήν την τεχνολογία; Και σε ποιες συγκεκριμένες ανάγκες ανταποκρίνεται; Στη Γαλλία, όλα άρχισαν το 1991 με την εγκατάσταση της κλασικής βιντεοεπιτήρησης στο Λεβαλουά-Περέ (4). Η πρακτική νομιμοποιήθηκε το 1995 και έκτοτε επιδοτήθηκε αδρά από δημόσιους πόρους (5), οδηγώντας στη δημιουργία μιας ευημερούσας αγοράς με κύκλο εργασιών ύψους 1,7 δισ. ευρώ για το 2021 (6). Ο τόσο μεγάλος ενθουσιασμός για τη βιντεοεπιτήρηση στηρίζεται σε μια λανθασμένη, αλλά ακλόνητη πεποίθηση: οι κάμερες υποτίθεται ότι επιτρέπουν τον περιορισμό της εγκληματικότητας.
Όμως, επιτόπιες επιστημονικές έρευνες, τόσο στη Γαλλία όσο και στο εξωτερικό (7), απέδειξαν ότι η βιντεοεπιτήρηση δεν διαδραμάτισε σημαντικό ρόλο στη διαλεύκανση υποθέσεων ούτε περιόρισε τον αριθμό των βίαιων εγκλημάτων και των αδικημάτων που αφορούν τη διακίνηση ναρκωτικών ή τη διατάραξη της δημόσιας τάξης στις πόλεις. Αρκετοί είναι οι λόγοι που εξηγούν την αναποτελεσματικότητα αυτή: έλλειψη συντονισμού μεταξύ των δυνάμεων ασφαλείας (ιδιωτικών, δημόσιων και δημοτικών), κακή ποιότητα των εικόνων, κάμερες ακάθαρτες ή με λανθασμένο προσανατολισμό. Ωστόσο, το μεγαλύτερο πρόβλημα συνίσταται στον φαραωνικό όγκο των δεδομένων από τις συνεχείς ροές των βίντεο, σε συνάρτηση με το ανεπαρκές ανθρώπινο δυναμικό που είναι επιφορτισμένο με την αξιοποίησή τους. «Εάν πάρουμε ένα χώρο όπως ο τεράστιος σιδηροδρομικός σταθμός Part-Dieu της Λυών, με ένα δίκτυο 600 καμερών, δεν μπορείς να έχεις παντού τα μάτια σου», εξηγεί ο Ντομινίκ Λεγκράν, πρόεδρος της ισχυρής Εθνικής Ένωσης Βιντεοεπροστασίας (AN2V). «Τι κάνουμε τότε με αυτές τις 600 κάμερες; Πρώτη επιλογή: Τίποτα. Δεύτερη επιλογή: χρησιμοποιούμε μηχανισμούς αυτοματοποίησης που λόγου χάρη επιτρέπουν να εστιαστεί η οθόνη μόλις ένα άτομο αρχίσει να τρέχει» (8).
Εντοπισμός, ιχνηλάτηση, καταχώριση
Για να κατανοήσει καλύτερα τη χειροπιαστή χρήση αυτής της νέας τεχνολογίας, ο συντάκτης του παρόντος άρθρου εργάστηκε μερικούς μήνες σε μία από τις επιχειρήσεις του κλάδου με μεγάλη ανάπτυξη. Προγράμματα, που χρησιμοποιούν την τεχνολογία βαθείας εκμάθησης (deep learning) και υπολογιστικά συστήματα μεγάλης ισχύος, επεξεργάζονται όγκους δεδομένων που υπερβαίνουν κατά πολύ τις ανθρώπινες δυνατότητες. Ο μηχανισμός είναι απλός: μηχανικοί τροφοδοτούν το πρόγραμμα με εικόνες επιλεγμένων αντικειμένων (ενός αυτοκινήτου, ενός ποδηλάτου, ενός ανθρώπου, ενός σκούτερ κ.ο.κ.), τραβηγμένες από όλες τις δυνατές γωνίες και σε διαφορετικές περιστάσεις. Προκειμένου να ελαχιστοποιηθούν τα ποσοστά σφάλματος, ένας τεχνικός «υποβοηθά» τον αλγόριθμο, υποδεικνύοντάς του τη στιγμή όπου εμφανίζεται το συγκεκριμένο αντικείμενο στην εικόνα. Από τη στιγμή που θα σταθεροποιηθεί αυτό το παιχνίδι με τα δεδομένα, το πρόγραμμα συνδέεται με το σύστημα βιντεοεπιτήρησης. Όταν το αντικείμενο περάσει μπροστά από το οπτικό πεδίο του λογισμικού, μπορεί να κάνει τρεις ενέργειες: να το εντοπίσει, να το καταχωρίσει ή να ιχνηλατήσει την πορεία του.
Τέτοια εργαλεία απευθύνονται κατά κύριο λόγο σε δύο τύπους πελατών, που από μόνοι τους αποτελούν το ήμισυ της αγοράς της βιντεοεπιτήρησης (9). Καταρχάς στις μεγάλες επιχειρήσεις (αεροδρόμια, σιδηροδρομικούς σταθμούς, τουριστικές τοποθεσίες, λιμάνια, εργοστάσια, στάδια, συγκροτήματα γραφείων, χώρους στάθμευσης, αποθήκες κ.λπ.). Στη συνέχεια στους Δήμους και, πιο συγκεκριμένα, στα Κέντρα Αστικής Επιτήρησης (CSU) της Γαλλίας, όπου συγκεντρώνονται οι ροές των βίντεο από τις δημοτικές κάμερες. Εκεί, οι χειριστές παρακολουθούν σε πραγματικό χρόνο δεκάδες οθόνες αναζητώντας τη διάπραξη κάποιου αδικήματος. Εκτός από την βιντεοκαταγραφή, τα κέντρα αυτά επιτρέπουν επίσης την επιτόπια καθοδήγηση των περιπόλων και των στοχευμένων παρεμβάσεων της αστυνομίας.
Πρακτικά, οι εταιρείες παραγωγής λογισμικού έχουν ως κυριότερο στόχο τους δημοτικούς αστυνομικούς και τα Κέντρα Αστικής Επιτήρησης. Η εμπορική επιχειρηματολογία των εταιρειών διαθέτει όλα όσα μπορούν να τους γοητεύσουν: δεν υπάρχει κανένας λόγος να αποκτήσουν καινούργιες και πανάκριβες κάμερες, ενώ το λογισμικό προσαρμόζεται στο υπάρχον δίκτυο και ενσωματώνεται αρμονικά στα υπόλοιπα προγράμματα, όπως το απαραίτητο σύστημα διαχείρισης βίντεο που συντονίζει τους «τείχους εικόνων» και τα αρχεία καταγραφών. Ωστόσο, εκείνο που συνήθως προκαλεί τη μεγαλύτερη εντύπωση είναι ο απλός τρόπος χρήσης του συστήματος. Μόλις εγκατασταθεί το πρόγραμμα, ο χειριστής πράγματι μπορεί να επιλέξει με μερικά κλικ μία από τις διαθέσιμες κάμερες του δικτύου, να αποκτήσει εικόνα ενός δρόμου ή μιας διασταύρωσης, να οριοθετήσει ο ίδιος μια ζώνη μέσα στο οπτικό πεδίο της και στη συνέχεια να επιλέξει μέσα από το μενού ένα ή περισσότερα αντικείμενα που επιθυμεί να αναλύσει.
Ωστόσο, η ισχύς των αλγορίθμων συνίσταται συνήθως στον εντοπισμό «συμβάντων», περιπτώσεων που έχουν προγραμματιστεί εκ των προτέρων και είναι έτοιμες προς χρήση. Ας πάρουμε για παράδειγμα το «συμβάν: μικροκλοπή» ή τον «εντοπισμό παρατεταμένης παρουσίας», που προσφέρονται από τις περισσότερες εταιρείες και εκτιμώνται ιδιαίτερα από τις δυνάμεις της τάξης: σε μια ζώνη που έχει προηγουμένως καθοριστεί εντός του επιτηρούμενου χώρου, ο χειριστής επιλέγει το αντικείμενο «άτομο», ορίζει μια χρονική διάρκεια (λ.χ. «5 λεπτά») και στη συνέχεια πιέζει το πλήκτρο «Επιλογή». Σε πραγματικό χρόνο θα εμφανιστεί μια ειδοποίηση στη διεπαφή και το συμβάν θα εμφανιστεί στην οθόνη. Ιδανικό μέσο για τον εντοπισμό πλανόδιων μικροπωλητών χωρίς άδεια (τρίτη συνηθέστερη παράβαση στο Παρίσι: μεταξύ 1ης Ιανουαρίου και 31ης Οκτωβρίου 2022 έχουν επιβληθεί 9.237 πρόστιμα) ή των ζητιάνων που επαιτούν σε εμπορικές ζώνες.
Προκειμένου να κατακτήσουν νέα μερίδια αγοράς, ορισμένες επιχειρήσεις προσαρμόζουν τις λειτουργίες του λογισμικού τους και σε άλλα προβλήματα που καλούνται να αντιμετωπίσουν οι Δήμοι. Ο Φλοράν Καστανινό, επίκουρος καθηγητής στο παρισινό Ινστιτούτο Μεταλλειολογίας-Τηλεπικοινωνιών, μας επιβεβαιώνει αυτή τη διαφοροποίηση των χρήσεων της αλγοριθμικής βιντεοεπιτήρησης, η οποία έχει μετατραπεί σε «ένα εργαλείο για όλες τις δουλειές στη διαχείριση του αστικού χώρου –απορρίμματα, οδικό δίκτυο, τροχαία ατυχήματα, χώροι πρασίνου κ.λπ.». Ενώ οι Δήμοι υπό δεξιά ή ακροδεξιά διοίκηση δίνουν την κύρια έμφαση στις δυνατότητες αστυνόμευσης, οι Δήμοι που διοικούνται από κεντρώους και σοσιαλιστές προσελκύονται περισσότερο από τις λειτουργίες «έξυπνης πόλης» (smart cities) του λογισμικού. Το εκφράζει χαρακτηριστικά η ιστοσελίδα του Δήμου Παρισιού (με δήμαρχο τη σοσιαλίστρια Αν Ινταλγκό): «Τα στατιστικά στοιχεία που προκύπτουν μας επιτρέπουν να κατανοήσουμε καλύτερα την κίνηση στους δρόμους σε πραγματικό χρόνο, προκειμένου να διευκολύνουμε τη ροή της».
Η αλλαγή της ορολογίας, από «έλεγχος των κατοίκων» σε «υπηρεσία δημόσιας ωφέλειας», παραγνωρίζει κάπως γρήγορα το γεγονός ότι η κάμερα παραμένει ένα εργαλείο επιτήρησης. Αν κάνουμε μια ανασκόπηση των λειτουργιών που προτείνουν οι κυριότεροι παίκτες της αγοράς, θα διαπιστώσουμε ότι κυριαρχεί η αστυνομική και η κατασταλτική χρήση, όπως ο εντοπισμός παράνομης ρίψης απορριμμάτων και μπάζων (23.388 πρόστιμα κατά τη διάρκεια του πρώτου δεκάμηνου του 2022), συναθροίσεων ή συγκεντρώσεων, παρουσίας ατόμων με «ασυνήθιστα μεγάλη» διάρκεια σε έναν χώρο, εγκαταλελειμμένων δεμάτων, παρείσφρησης σε κτίριο, κινήσεων πλήθους ή συμπλοκών. Σε όλα αυτά προστίθεται μια πανοπλία αναλύσεων προσανατολισμένη στις παραβιάσεις του Κώδικα Οδικής Κυκλοφορίας: παραβίαση φωτεινού σηματοδότη, μη επιτρεπόμενες χρήσεις του οδικού δικτύου (488 πρόστιμα σε πατίνια τον Νοέμβριο του 2022 στο Παρίσι), οδήγηση προς την αντίθετη κατεύθυνση του μονόδρομου, παραβίαση της απαγόρευσης κυκλοφορίας ορισμένου τύπου οχημάτων σε συγκεκριμένες ζώνες, στάθμευση που δημιουργεί προβλήματα (808.627 πρόστιμα στο Παρίσι το 2020).
Βέβαια, ο νόμος δεν επιτρέπει σε μια τεχνητή νοημοσύνη να επιβάλλει πρόστιμα σε ένα άτομο –μονάχα ένα αρμόδιο αστυνομικό όργανο μπορεί να διαπιστώσει την τέλεση της παράβασης. Όμως, η τακτική της «μαύρης οθόνης» που χρησιμοποιείται από ορισμένα Κέντρα Αστικής Επιτήρησης επιτρέπει την παράκαμψη του περιορισμού. Δεν χρειάζεται πλέον ο χειριστής να παρακολουθεί μια δεκάδα οθόνες περιμένοντας να διαπιστώσει μια παράβαση του ΚΟΚ. Αρκεί να ενεργοποιήσει τη λειτουργία «στάθμευση που δημιουργεί προβλήματα» ή «παραβίαση φωτεινού σηματοδότη» και να περιμένει να ανάψει μια μαύρη οθόνη, σημάδι ότι μόλις έχει διαπραχθεί μια παράβαση. Η αυτοματοποιημένη αυτή διαδικασία τού προσφέρει όλα τα αναγκαία στοιχεία για τη σύνταξη μιας κλήσης: τύπος της παράβασης, ταυτοποίηση του οχήματος και ώρα διάπραξης του αδικήματος. Το έργο του διευκολύνεται από προγράμματα αυτόματης ανάγνωσης πινακίδων κυκλοφορίας, όσο κι αν η χρήση τους δεν έχει προβλεφθεί για αυτόν τον σκοπό (10). Έτσι, η αλγοριθμική βιντεοεπιτήρηση όχι μόνο επιτρέπει την εκμηχάνιση του εντοπισμού των παραβάσεων, αλλά υπόσχεται και γρήγορη απόσβεση της επένδυσης χάρη στα πρόστιμα. Ένα ιδιαίτερα πειστικό επιχείρημα για τις διοικήσεις των Δήμων.
Κι αν ορισμένες επιχειρήσεις του κλάδου όπως η ΧΧΙΙ ή η Wintics επικεντρώνονται με συνετό, αλλά διφορούμενο, τρόπο στην αγορά της «έξυπνης πόλης», ορισμένες άλλες εξειδικεύονται σαφώς στο πεδίο της ασφάλειας. «Ο αλγόριθμος πρέπει να μπορεί να εντοπίζει ένα άτομο, να του αποδίδει ορισμένα χαρακτηριστικά και να το παρακολουθεί από κάμερα σε κάμερα», εξηγούσε στις 15 Νοεμβρίου 2022 ο βουλευτής Φιλίπ Λατόμπ στην έκθεση Expoprotection του Παρισιού. Αν και μέλος της Εθνικής Επιτροπής για την Πληροφορική και τις Ελευθερίες (CNIL), αποκάλυψε μια ιδιαίτερη αντίληψη για τον σεβασμό της ιδιωτικής ζωής: «Εάν πρόκειται απλώς για την ενημέρωση του χειριστή ότι υπάρχει μια εγκαταλελειμμένη βαλίτσα και ότι ο άντρας έχει ύψος 1,80, φοράει λευκό πουκάμισο, μπλε σακάκι και τζην, τότε όλα αυτά δεν έχουν νόημα. Εκείνο που χρειαζόμαστε είναι ο χειριστής να ξέρει πού ακριβώς βρίσκεται το άτομο και να έχει τη δυνατότητα να ιχνηλατήσει τη διαδρομή του».
Ηλεκτρονικό «Πανοπτικόν»
Στη γαλλική αγορά, οι πλέον προβεβλημένες επιχειρήσεις αυτή τη στιγμή είναι η γαλλική Two-i και η ισραηλινή ανταγωνίστριά της Briefcam, που έχει εξαγοραστεί από τον όμιλο Canon και παρέχει τις υπηρεσίες της σε 200 περίπου δήμους ανά την Γαλλία.
Η στενή συνεργασία της Two-i με τις δυνάμεις της τάξης τής επιτρέπει σήμερα να εντοπίζει το αδίκημα της εγκατάλειψης θύματος τροχαίου ατυχήματος, αλλά και το χρώμα, τον αριθμό κυκλοφορίας και μια εκατοντάδα μάρκες αυτοκινήτων χάρη στην αναγνώριση του λογότυπού τους. Ο αριθμός των φίλτρων που έχει αναπτύξει η Briefcam και μπορούν να εφαρμοστούν σε «ανθρώπινο αντικείμενο» μοιάζει ατελείωτος: το λογισμικό της μπορεί να εντοπίσει εάν το άτομο που περνάει μπροστά από την κάμερα είναι άντρας, γυναίκα ή παιδί, εάν φοράει ρούχο κοντομάνικο, μακρυμάνικο ή πάνω από τα γόνατα, εάν φοράει σκούφο, κουκούλα ή μάσκα, εάν κουβαλάει τσάντα χειρός, σακίδιο πλάτης ή βαλίτσα. Προκειμένου να βελτιώσει την αναζήτηση, μπορεί να συνδέσει και ένα χρώμα (από τα 14 διαθέσιμα) σε ορισμένα από αυτά τα χαρακτηριστικά.
H Briefcam προσφέρει επίσης στους πελάτες της μια επιλογή για ταχεία ανάλυση αρκετών ωρών καταγραφής, που παράγει μια σύνοψη μερικών λεπτών για ένα ή περισσότερα στοχευμένα άτομα. Και, αν η χρήση των πολλαπλών χαρακτηριστικών δεν αρκεί για να ταυτοποιηθεί ένα άτομο, ο χειριστής μπορεί πάντα να ενεργοποιήσει τη λειτουργία της αναγνώρισης προσώπου. Όταν το επιτρέπει η ευκρίνεια της εικόνας, το στοχευμένο άτομο θα φωτογραφηθεί και στη συνέχεια θα εισαχθεί στη βάση αναζήτησης για να υποβληθεί σε «σύγκριση προσώπων» εντός της ροής του βίντεο. Στην περίπτωση όπου η αστυνομία γνωρίζει την ταυτότητα του ατόμου, τότε το λογισμικό μπορεί να εισάγει μια φωτογραφία του από τα μέσα κοινωνικής δικτύωσης, με βάση την οποία θα πραγματοποιηθεί η σύγκριση προσώπων. Ως έσχατη λύση, το γαλλικό κράτος διαθέτει μια βάση δεδομένων με 19 εκατομμύρια αρχεία (και 9 εκατομμύρια φωτογραφίες ανάμεσά τους), την TAJ (Επεξεργασία Ποινικού Μητρώου). (11). Ο κατασκευαστής του λογισμικού έχει βεβαίως προβλέψει εντολές που επιτρέπουν το σβήσιμο αυτών των βιομετρικών δεδομένων σε περίπτωση ξαφνικού ελέγχου…
Οι ευκαιρίες για την προώθηση του ηλεκτρονικού ελέγχου δεν λείπουν. Το νομοσχέδιο για τους Ολυμπιακούς Αγώνες, που ψηφίστηκε από τη γαλλική Βουλή στις 19 Μαΐου, ανοίγει τον δρόμο για έναν μεγάλης κλίμακας πειραματισμό με την αλγοριθμική βιντεοεπιτήρηση. Το πρόσχημα που επικαλείται είναι ο «εντοπισμός των κινήσεων πλήθους» –τη στιγμή που μονάχα μία περίπτωση φονικής κίνησης πλήθους έχει καταγραφεί στη Γαλλία τα τελευταία εκατό χρόνια: το 2002 στη Βρέστη, κατά τη διάρκεια μιας φοιτητικής γιορτής στο Εκθεσιακό Πάρκο του Πενφέλ.
Από όλες αυτές τις τεχνικές και θεσμικές «καινοτομίες» αναδεικνύεται μια ανησυχητική ανάμειξη στόχων και μέσων. Ο ισχυρισμός ότι οι πόλεις θα καταστούν πιο οικολογικές μέσω ενεργοβόρων υποδομών πληροφορικής (12), ενώ ταυτόχρονα διατίθενται στο εμπόριο οι λειτουργίες που αποσκοπούν στην αστυνόμευση, προδίδει την κοινή βούληση των παραγωγών λογισμικού και των αιρετών αρχόντων να δικαιολογήσουν μια οπισθοδρόμηση για την οποία πολύ δύσκολα θα αναλάμβαναν δημοσίως την ευθύνη: τον δεκαπλασιασμό των δυνατοτήτων αστυνομικού ελέγχου, ο οποίος δημιουργεί τις υλικές συνθήκες για τη γενικευμένη και διαρκή επιτήρηση των πράξεων και των κινήσεών μας. Επισήμως, το ηλεκτρονικό Πανοπτικόν (13) της Κίνας, με μορφές που εισβάλλουν περισσότερο στην ιδιωτικότητα και με διαφορετική λειτουργία (για παράδειγμα, το σύστημα ατομικής αξιολόγησης που αποκαλείται «κοινωνική αξιοπιστία» (14)), εξακολουθεί να αποτελεί παράδειγμα προς αποφυγή για τις φιλελεύθερες δημοκρατίες. Όμως, η αυτόματη ανίχνευση ύποπτων ή απαγορευμένων συμπεριφορών μάς φέρνει πιο κοντά σε αυτό.
