Η τεχνητή νοημοσύνη αρχίζει να επιλέγει ποιος θα απολυθεί και ποιος όχι

Σύνταξη – επιμέλεια: Στέλιος Βασιλούδης

Καθώς οι απολύσεις αφανίζουν τη βιομηχανία της τεχνολογίας, οι αλγόριθμοι που χρησιμοποιήθηκαν κάποτε για να βοηθήσουν τις προσλήψεις θα μπορούσαν τώρα να αποφασίζουν ποιος θα βρεθεί εκτός δουλειάς.

Μερικές μέρες αφότου οι μαζικές απολύσεις περιόρισαν κατά 12.000 τις θέσεις εργασίας στη Google, εκατοντάδες πρώην υπάλληλοι συνέρρευσαν σε ένα διαδικτυακό chatroom για να συζητήσουν και να εκφράσουν αμοιβαία συμπάθεια, για τον φαινομενικά ακατανόητο τρόπο με τον οποίο απολύθηκαν, ξαφνικά. Αντάλλαξαν θεωρίες για τον τρόπο με τον οποίο η διοίκηση είχε αποφασίσει το ποιος θα κοπεί. Θα μπορούσε ένας «αμελής αλγόριθμος που έχει σχεδιαστεί προσεκτικά για να μην παραβιάζει κανέναν νόμο, να είχε επιλέξει ποιος θα έφευγε»; αναρωτήθηκε ένα άτομο σε μια δημοσίευση του Discord. 

Η Google λέει ότι «δεν εμπλέκεται αλγόριθμος» στις αποφάσεις της για περικοπές θέσεων εργασίας. Όμως, οι πρώην υπάλληλοι δεν έχουν άδικο να αναρωτιούνται, καθώς ένας τεράστιος αριθμός εργαλείων τεχνητής νοημοσύνης έχει εδραιωθεί στη ζωή του γραφείου. Οι διαχειριστές ανθρώπινου δυναμικού χρησιμοποιούν λογισμικό μηχανικής εκμάθησης για να αναλύσουν εκατομμύρια σημεία δεδομένων που σχετίζονται με την απασχόληση, δίνοντας συστάσεις σχετικά με το ποιος πρέπει να κληθεί σε συνέντευξη, να προσληφθεί, να παραμείνει ή να προαχθεί.

Καθώς οι οικονομικές προοπτικές της Silicon Valley αλλάζουν, αυτό το λογισμικό είναι πιθανό να εξυπηρετήσει ένα πιο τρομακτικό έργο: να βοηθήσει στην απόφαση του ποιος θα περικοπεί, σύμφωνα με αναλυτές ανθρώπινων πόρων και ειδικούς στο εργατικό δυναμικό.

Μια πρόσφατη έρευνα σε 300 ηγέτες ανθρώπινου δυναμικού σε εταιρείες των ΗΠΑ, αποκάλυψε ότι το 98% από αυτούς πιστεύουν πως το λογισμικό και οι αλγόριθμοι θα τους βοηθήσουν να λάβουν αποφάσεις για απολύσεις φέτος. Καθώς οι εταιρείες τεχνολογίας απολύουν μαζικά – με τις απολύσεις να αγγίζουν τα πέντε ψηφία – είναι δύσκολο για τους ανθρώπους να αποφασίσουν μόνοι τους.

Μεγάλες εταιρείες, από κολοσσούς της τεχνολογίας έως εταιρείες που κατασκευάζουν είδη οικιακής χρήσης, χρησιμοποιούν συχνά λογισμικό για να βρουν το «σωστό άτομο» για το «σωστό έργο», σύμφωνα με τον Joseph Fuller, καθηγητή στη σχολή επιχειρήσεων του Χάρβαρντ, ο οποίος ηγείται της πρωτοβουλίας  Managing the Future of Work.

Αυτά τα προϊόντα δημιουργούν ένα «πλήρη κατάλογο δεξιοτήτων», μια ισχυρή βάση δεδομένων για τους υπαλλήλους που βοηθά τους διευθυντές να προσδιορίσουν τα είδη εργασιακών εμπειριών, πιστοποιήσεων και συνόλων δεξιοτήτων που σχετίζονται με υψηλές επιδόσεις για διάφορες θέσεις εργασίας. Αυτά τα ίδια εργαλεία μπορούν τώρα να βοηθήσουν στις απολύσεις. «Ξαφνικά απλώς χρησιμοποιούνται διαφορετικά», λέει ο Fuller, «επειδή εκεί είναι ο τομέας όπου οι άνθρωποι διαθέτουν … μια πραγματική… απογραφή δεξιοτήτων».

Οι εταιρείες ανθρώπινων πόρων έχουν εκμεταλλευτεί την έκρηξη της τεχνητής νοημοσύνης. Εταιρείες, όπως το Eightfold AI, χρησιμοποιούν αλγόριθμους για να αναλύσουν δισεκατομμύρια σημεία δεδομένων που έχουν αφαιρεθεί από διαδικτυακά προφίλ καριέρας και άλλες βάσεις δεδομένων δεξιοτήτων, βοηθώντας τους υπεύθυνους προσλήψεων να βρουν υποψηφίους των οποίων οι αιτήσεις ενδέχεται να μην εμφανιστούν διαφορετικά.

Από την ύφεση του 2008 και μετά, οι υπηρεσίες ανθρώπινου δυναμικού «καθοδηγούνται σε απίστευτο βαθμό από δεδομένα», λέει ο Brian Westfall, ανώτερος αναλυτής ανθρώπινου δυναμικού στην Capterra, ένα site ανασκόπησης λογισμικού. «Η στροφή στους αλγόριθμους μπορεί να είναι ιδιαίτερα χρήσιμη σε ορισμένους μάνατζερ, καθώς καλούνται να πάρουν δύσκολες αποφάσεις, όπως απολύσεις», προσθέτει.

Πολλοί άνθρωποι χρησιμοποιούν λογισμικό που αναλύει δεδομένα απόδοσης. Το 70% των διευθυντών ανθρώπινου δυναμικού στην έρευνα της Capterra είπε, ότι η αποδοτικότητα ήταν ο πιο σημαντικός παράγοντας κατά την αξιολόγηση του ποιος θα απολυθεί.

Άλλες παράμετροι που χρησιμοποιούνται για την απόλυση ατόμων μπορεί να είναι λιγότερο σαφείς, λέει ο Westfall. Για παράδειγμα, οι αλγόριθμοι ανθρώπινου δυναμικού μπορούν να υπολογίσουν ποιοι παράγοντες καθιστούν κάποιον «επικίνδυνο να παραιτηθεί» και άρα πιο πιθανό να εγκαταλείψει την εταιρεία.

«Αυτό εγείρει πολλά ζητήματα», προσθέτει. «Εάν ένας οργανισμός έχει πρόβλημα με τις διακρίσεις, για παράδειγμα, οι έγχρωμοι μπορεί να εγκαταλείψουν την εταιρεία σε υψηλότερα ποσοστά, αλλά εάν ο αλγόριθμος δεν είναι εκπαιδευμένος να το γνωρίζει αυτό, θα μπορούσε να θεωρήσει τους μη λευκούς εργαζόμενους ως υψηλότερο “κίνδυνο παραίτησης” και να προτείνει περισσότερους από αυτούς για απολύσεις», συμπληρώνει. «Μπορεί να δει κανείς προς τα που πού φυσάει ο άνεμος», λέει, «και ξαφνικά, αυτά τα σημεία δεδομένων που δεν ξέρεις πώς δημιουργήθηκαν ή πώς επηρεάστηκαν αυτά τα δεδομένα, οδηγούν σε κακές αποφάσεις», καταλήγει.

Ο Jeff Schwartz, αντιπρόεδρος της Gloat, μιας εταιρείας λογισμικού ανθρώπινου δυναμικού που χρησιμοποιεί τεχνητή νοημοσύνη, λέει ότι το λογισμικό της εταιρείας του λειτουργεί σαν μηχανή συστάσεων – παρόμοια με το πώς προτείνει η Amazon τα προϊόντα – οι οποίες βοηθούν τους πελάτες να αποφασίσουν ποιον θα καλέσουν σε συνέντευξη. Ο ίδιος δεν πιστεύει ότι οι πελάτες της Gloat χρησιμοποιούν το λογισμικό της εταιρείας για να δημιουργήσουν λίστες ατόμων για απόλυση. Ωστόσο, αναγνωρίζει ότι οι επικεφαλής υπηρεσιών ανθρώπινου δυναμικού, θα πρέπει να είναι διαφανείς στον τρόπο με τον οποίο λαμβάνουν τέτοιες αποφάσεις, συμπεριλαμβανομένου του πόσο εκτενώς χρησιμοποιήθηκαν οι αλγόριθμοι.

«Είναι μια στιγμή μάθησης για εμάς», λέει. «Πρέπει να ανοίξουμε τα μαύρα κουτιά. Πρέπει να καταλάβουμε ποιοι αλγόριθμοι λειτουργούν και με ποιους τρόπους, και πρέπει να καταλάβουμε πώς συνεργάζονται οι άνθρωποι και οι αλγόριθμοι».

Η εξάρτηση από το λογισμικό έχει πυροδοτήσει μια συζήτηση σχετικά με το ρόλο που πρέπει να διαδραματίζουν οι αλγόριθμοι στην περικοπή των θέσεων εργασίας και πόσο διαφανείς πρέπει να είναι οι εργοδότες σχετικά με τους λόγους πίσω από αυτήν την διαδικασία, λένε οι ειδικοί στον τομέα της εργασίας. «Ο κίνδυνος εδώ είναι η χρήση κακών δεδομένων», λέει ο Westfall, «και να λάβουμε μια απόφαση με βάση κάτι που λέει ένας αλγόριθμος, ακολουθώντας τον τυφλά», συνεχίζει. 

Ωστόσο, οι υπηρεσίες ανθρώπινου δυναμικού έχουν «γονατίσει από την πανδημία και μετά» και θα συνεχίσουν να χρησιμοποιούν λογισμικό για να διευκολύνουν τον φόρτο εργασίας τους, λέει ο Zack Bombatch, δικηγόρος εργασίας και απασχόλησης και μέλος του Disrupt HR, ενός οργανισμού που παρακολουθεί την πρόοδο στον τομέα των ανθρώπινων πόρων.

Με δεδομένο αυτό, οι ηγέτες δεν μπορούν να αφήσουν τους αλγόριθμους να αποφασίζουν από μόνοι τους ποιον θα απολύσουν και θα πρέπει να επανεξετάζουν τις προτάσεις προκειμένου να διασφαλίσουν ότι δεν είναι προκατειλημμένοι εναντίον έγχρωμων, γυναικών ή ηλικιωμένων – κάτι που θα οδηγούσε σε μηνύσεις. «Μην προσπαθείτε να μεταβιβάσετε την ευθύνη στο λογισμικό», καταλήγει.

Πηγή: The Washington Post