Χαχαχαχαχαχαχ it was my plan exactly. Όχι λόγω μουδ, δεν εγνώριζα, αλλά επειδή κάποια στιγμή έπρεπε. ;p
Χρειάζεται και ένα τέτοιο ποστ , εγώ ανυπομονώ
2 Likes
Το net neutrality ίσως να επανέλθει τώρα με την αλλαγή κυβέρνησης στις ΗΠΑ.
Επίσης μεγάλη κουβέντα, ο Elon Musk είναι ένας από τους πρωτοστάτες του ethical AI.
Πολύ χρήσιμο site (και Ινστιτούτο) το παρακάτω αν θες να εμβαθύνεις.
Ο Max Tegmark του ΜΙΤ έχει γράψει και ένα πολύ απλά γραμμένο pop science βιβλίο (Life 3.0) αν θες να ξεκινήσεις από εκεί.
Αυτό ακριβώς. Και εκεί είναι νομίζω το λάθος του @nnnkkk όσον αφορά τον καπιταλισμό. Ο Καπιταλισμός είναι σύστημα με κανόνες και βαθιά regulated. Πχ όλα τα μοντέλα των τραπεζών ελέγχονται ΚΑΘΕ χρόνο από τις κεντρικές τράπεζες και τους νομοθέτες για να δουν τι συμπεράσματα έχουν, αν είναι επαρκώς συντηρητικά κοκ.
Για μένα είναι απαραίτητο να υπάρχει διαφάνεια όσον αφορά τους αλγόριθμους και τα unintended consequences, ειδικά από τη στιγμή που όλες οι Big Tech εταιρείες έχουν πιαστεί πολλάκις με τα παντελόνια κάτω και τρέχουν μετά να ψελλίσουν ότι θα ορίσουν ανεξάρτητες επιτροπές να ερευνήσουν τι πήγε λάθος.
4 Likes
Δε διαπιστώνεις πως στην πρώτη παράγραφο περιγράφεις πως θεωρητικά λειτουργεί ο καπιταλισμός και στη δεύτερη βρίσκεις πρακτικά προβλήματα των big tech? Και για να μην πάω σε άλλα παραδείγματα ( πχ πόσες φορές έχουν πιαστεί με κατεβασμένα βρακιά τράπεζες, οι εταιρείες των κλασσικών βιομηχανιών ή το πως γίνονται τα audits ), ο καπιταλισμός έχει αφήσει τις big tech εταιρείες να λειτουργούν με τρόπο που δημιουργούν προβλήματα και κάνουν exploit το ίδιο το σύστημα. Θέλουμε να κάνουμε regulated κάτι το οποίο δεν μπορεί να μπει σε αυτά τα καλούπια. Και βασικά σίγουρα δεν μπαίνει σε καλούπια με την προσέγγιση της ΕΕ.
Επίσης @jonkyr μου ήρθε φλασιά και δεν τα έχω πρόχειρα τώρα στο μυαλό μου για να θυμηθώ ακριβώς τι και πως, αλλά η Dutch East India Company και εδάφη είχε και στρατό είχε και πολλά ακόμη πράγματα που δε συνάδουν με τον όρο company.
Όχι ιδιαίτερα. Η νομοθέτηση δεν είναι free lunch. Έχει θετικα, αρνητικά, κόστος (από άμεσα, cost of compliance, μέχρι έμμεσα).
Όποτε εκ των πραγμάτων είναι κατά βάση reactive.
Οι Big Tech εταιρείες είναι στο στόχαστρο για 2 λόγους. Ένας είναι ότι επηρεάζουν αρνητικά τον ανταγωνισμό και δημιουργούν ολιγοπώλια. Αυτό είναι αμιγώς πρόβλημα για τον καπιταλισμό
Ο δεύτερος κι πιο σχετικός είναι ότι ένας νόμος του 1996, το article 230, δεν τις θέτει υπόλογες και υπεύθυνες για το τι δημοσιεύεται σε αυτές. Προφανώς ο νομοθέτης δεν μπορούσε να προβλέψει το 1996 για το Facebook λχ που δεν υπήρχε ούτε σα σκέψη. Ο κόσμος εξελίσσεται, προκύπτουν νέα ζητήματα τα οποία πρέπει να ρυθμίζονται.
Και θα υπάρχουν κι άλλες. Φαντάζομαι. Αλλά τι θέλεις να πεις; Με επιβεβαιώνεις ή με επαναφέρεις στην τάξη για το υποθετικό μου σενάριο;
Εγώ θα έλεγα είναι κυρίως proactive. Αυτοί που έχουν χρήματα, επηρεάζουν τη νομοθεσία προς τα συμφέροντα τους. Όταν γίνεται αυτό επανειλλημένως δεν μπορείς να πεις ότι η νομοθεσία είναι reactive, αφού το μόνο που κάνει είναι να εξυπηρετεί αυτούς που μπορούν να την επηρεάσουν. Επομένως οι κατέχοντες τη δύναμη ( οικονομική ή πολιτική ) έχουν εξασφαλίσει τη νομοθεσία ( proactive ) ανάγοντας τη σε οικονομικό μέσο.
Εδώ είναι η διαφωνία μας, και στην ουσία απαντάω και σε σένα @jonkyr γιατί αναφέρθηκα στην VOC. Όσο απασχολούμαστε αν οι big tech μπορούν να υπαχθούν σε νομοθεσίες ή regulation και με ποιο τρόπο, είναι σα να κοιτάμε το δέντρο και όχι το δάσος. Σκοπός τους πιστεύω είναι η μετάβαση σε ένα νέο σύστημα διακυβέρνησης, εμπορίου, finance κλπ. Δεν μπορώ να σκεφτώ τρόπους με τους οποίους πραγματικά τα πολιτικά και οικονομικά μας συστήματα μπορούν να αποτρέψουν αυτή τη μετάβαση, χωρίς απολυταρχικά μέσα.
1 Like
Με αφορμή την Amazon και το paper που έβαλε ο τύπος χωρίς κεφάλι, θυμήθηκα κάτι ολόσωστο που άκουσα πρόσφατα: οι εταιρείες καπνού έκαναν επιθετική πολιτική και όταν βρέθηκαν στο στόχαστρο, έμειναν ξεκρέμαστες. Οι εταιρείες αλκοόλ που έχουν επίσης επιβλαβή προϊόντα, έκαναν ένα είδος αυτο-ρύθμισης στην πολιτική τους και έχασαν ελάχιστα. Μιλάμε για διαφήμιση και πρόσβαση στην αγορά.
Το Amazon φαίνεται να ακολουθεί το δεύτερο παράδειγμα. Αυτο-ρύθμιση, προστασία του πελάτη, “πάρε πίσω τα λεφτά, κράτα το προϊόν” με χασούρα από εκεί, αλλά κέρδος επειδή κανείς πελάτης δεν θέλει να χάσει την εταιρεία. Ποιος θα υποστηρίξει μία εταιρεία που δεν σέβεται τον πελάτη; Αντίθετα μία εταιρεία που τολμάει να τον προστατέψει, θα τον έχει σύμμαχο στα δύσκολα. Στο μεταξύ θα βρει τα χρήματα που χάνει από άλλες δραστηριότητες: marketplace, 2nd hand κλπ, καθώς κι από το μονοπώλιο (ευχαριστημένοι πελάτες, περισσότεροι πελάτες). Ούτε διαφήμιση δεν χρειάζεται, το κάνει ο πελάτης με μεγάλη του χαρά.
Οι κολοσσοί κοινωνικής δικτύωσης νομίζω ότι φέρνουν περισσότερο στην πρώτη κατηγορία, παρά στη δεύτερη. Δεν είναι βέβαια σε καμία περίπτωση “καπνοβιομηχανίες”, αλλά σίγουρα δεν είναι και Amazon.
2 Likes
Εσύ μιλάς για lobbying που είναι proactive από τη στιγμή που έρχεται ένα νομοσχέδιο για διαβούλευση. Αλλά και εκεί ακόμα υπάρχουν κάποιες δικλείδες - τουλάχιστον σε πιο σοβαρά κράτη. Μια βασική για μένα είναι ότι δεν έχουν όλοι οι κλάδοι ή ακόμα και οι εταιρείες μέσα σε ένα κλάδο ίδιες προτεραιότητες. Ένα παράδειγμα: οι αμερικάνικες τράπεζες θέλουν να βάλουν ESG (Environmental, Social, Governance) κριτήρια για να εκτιμήσουν την πιστοληπτική ικανότητα μιας εταιρείας και να της αρνηθούν δάνεια. Οι πετρελαϊκές - μάντεψε- αντιστέκονται. Οπότε ο καθένας κάνει lobbying και χρήματα διαθέτονται και προς τις 2 κατευθύνσεις. Τελικά πάντως ο βουλευτής εκλέγεται και αν οι ψηφοφόροι του είναι συντριπτικά αντίθετοι, θα το λάβει υπόψιν.
Εγώ μιλάω καθαρά για τη νομοθετική πρωτοβουλία. Πρώτα έφτασε η κρίση του 2008, μετά ψηφίστηκαν νόμοι για τη σταθερότητα του Χρηματοπιστωτικού συστήματος. Πρώτα φτάσαμε στο και 5 με την κλιματική αλλαγή, μετά ήρθε η Συμφωνία του Παρισιού. Κατά πλειοψηφία, αυτή είναι η σειρά: αρνητικές συνέπειες, νομοθετική πρωτοβουλία.
@jonkyr ακόμα και για την Amazon έρχεται όμως το σημείο καμπής που γίνεται πολύ μεγάλη για τον ανταγωνισμό και μονοπώλιο, και αρχίζουν οι πρωτοβουλίες για “break up”. Η Amazon πολύ επιτυχημένα είναι η αλήθεια το καθυστερεί μέσω self-regulation και φιλικές πολιτικές προς τον καταναλωτή. Μην ξεχνάμε πως είναι μια εταιρεία που ήταν ζημιογόνα για πάρα πολλά χρόνια για να εξυπηρετήσει αυτή τη στρατηγική της. Αλλά ήδη υπάρχει κουβέντα για τον αν πρέπει να διαχωριστεί το retail κομμάτι από το Cloud κοκ. Το έξυπνο επιχείρημα της Amazon είναι ότι ναι μεν είναι to 50% του Online retail στις ΗΠΑ, αλλά μόλις το 5% όταν μιλάμε για Online και Offline.
Συμφωνώ πάντως στο συμπέρασμα σου.
4 Likes
Πιάνομαι από αυτό, γιατί δεν βρίσκω κάπου να διαφωνήσω με όσα λέτε, οπότε θα το συνεχίσω από εδώ.
Ναι bro, ακριβώς αυτό είναι. Το τελευταίο μέγα σκάνδαλο που παίχτηκε είναι το πρόστιμο 450.000€ που έριξε η ιρλανδική Αρχή Προστασίας Προσωπικών Δεδομένων στο Twitter.
Ακούγονται πολλά;
Είναι το 0,01% του ετησίου revenue του Twitter.
Ή αλλιώς όσα λεφτά βγάζει το Twitter σε 68 λεπτά.
Το σκάνδαλο όμως έχει πολλά πόδια πέρα από αυτό το προφανές.
Πρώτον το Twitter είχε ένα τρελό data breach για χρόνια και δεν έκανε απολύτως τίποτα από όσα λέει ο νόμος για να ενημερώσει τις αρχές κ.λπ. Τους έγραψε εκεί που δεν πιάνει μελάνι για χρόνια.
Δεύτερον, έγινε διαβούλευση με το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων, που συμμετέχουν όλες οι Ευρωπαικές Αρχές Προστασίας Δεδομένων. Δηλαδή είπαν την άποψή τους για το πρόστιμο όλοι, Γερμανία, Γαλλία, Ελλάδα κ.ο.κ.
Εν ολίγοις, το μέγιστο πρόστιμο που μπορούσε να πέσει ήταν 60 εκατομμύρια ευρώ.
Η Αυστρία πρότεινε να τους ρίξουν 34.600.000€
Η Γερμανία πρότεινε 22.044.105€
Η Ουγγαρία είπε ότι το προτεινόμενο από την Ιρλανδία πρόστιμο είναι αδιανόητα χαμηλό.
Η Ιταλία το ίδιο με την Ουγγαρία.
Και η τελική μη-δεσμευτική γνωμοδότηση της Επιτροπής ήταν ‘Ιρλανδία, συμμαζέψου και μην ρίξεις αυτό που αρχικά πρότεινες, 300.000€. Θα ρίξεις παραπάνω’.
Και η Ιρλανδία έριξε παραπάνω. Από 300.000€, έριξε 450.000€.
Να κλαίνε και να γελάνε και οι πέτρες.
Αυτό το στόρι δεν είναι το μόνο. Η Ιρλανδική αρχή έχει την μεγαλύτερη υπόθεση κατά του Facebook στα χέρια της από το 2013 και ακόμα δεν έχει βγάλει απόφαση, 7 χρόνια μετά. Κι άλλα πολλά.
Στην πράξη η Ιρλανδία λειτουργεί και ως οιονεί φορολογικός παράδεισος, και ως δικαστικός παράδεισος. Και κανείς δεν μας εγγυάται ότι δεν θα μιμηθούν κι άλλοι αυτό το παράδειγμα στο μέλλον, καθιστώντας αυτές τις αρχές μπαμπούλα μόνο για τις μικρομεσαίες επιχειρήσεις.
Αυτό που θέλω να πω είναι ότι οι νόμοι μπορούν να κάνουν κάτι, αλλά και τίποτα ταυτόχρονα. Όσοι είμαστε στον τομέα βλέπουμε ότι με το GDPR έχουν πανικοβληθεί και έχουν ξοδέψει εκατομμύρια για να συμμορφωθούν οι μικρομεσαίες επιχειρήσεις, και οι big-tech κάνουν ιππασία πίνοντας σαμπάνιες. Γι’ αυτό λέω ότι οι νόμοι πρέπει να είναι ex-ante, δηλαδή να προσπαθούν να ‘ελέγχουν’ τις πρακτικές των big-tech πριν αυτές οι πρακτικές εφαρμοστούν και όχι αργότερα. Και εκεί παίζουν μεγάλη μπάλα και τα ethics, και φυσικά εμείς σαν κοινωνία, ώστε να πιέζουμε προς μια ηθική κατεύθυνση.
8 Likes
Καθώς διάβαζα (αχόρταγα), περίμενα να τελειώσει το κείμενο για να γράψω το παραπάνω. Πρόλαβες. Στο μεταξύ, η Ιρλανδία αποτελεί και τεράστια ευρωπαϊκή βάση για τις εταιρείες της Silicon Valley, σωστά; Είναι σαν να λέμε “πού να τους ζορίζεις τώρα, μία άλλη φορά”.
2 Likes
Ο βασικός λόγος είναι αυτός:
(edit η εικόνα είναι από το 2018, τα στοιχεία του 2020 είναι εδώ, για την Ιρλανδία δεν αλλάζει κάτι)
12,5% ενιαίος φόρος για εταιρικό revenue, σε συνδυασμό με το ότι είναι πλέον η μόνη αγγλόφωνη χώρα στην ΕΕ με πρόσβαση στο Single Market.
Επίσης υπάρχει άλλος ένας λόγος:
Από τα πιο προηγμένα συστήματα φοροαποφυγής.
Σε συνδυασμό με το μορφωμένο εργατικό δυναμικό, με την απορρόφηση επιχειρήσεων από την Αγγλία λόγω Brexit και την γενικά αποτελεσματική κυβέρνηση, την έφεραν δεύτερη στον κόσμο στο Human Development Index του ΟΗΕ.
Είναι όμως ολοφάνερο και αρχίζουν όλο και περισσότεροι να το παραδέχονται, ότι αυτό γίνεται γιατί παραγλείφουν τις πολυεθνικές και τις αφήνουν να κάνουν ό, τι θέλουν.
3 Likes
Ειδικά για το fb, έχουν επενδυθεί και πάρα πολλά χρήματα και έχουμε στηρίξει πολλές λειτουργίες του πολιτισμού μας για να μπορέσουμε να το σπάσουμε. Πιστεύω πως αν καταφέρει να δημιουργήσει το ψηφιακό νόμισμα του, δεν υπάρχει με τίποτα γυρισμός.
Συνέχεια μου λες πράγματα που ιδανικά λειτουργούν σωστά και φερέγγυα, ενώ κατ’επανάληψη έχουμε παρατηρήσει πως δεν υπάρχουν αυτές οι ίσες αποστάσεις. Δε διαφωνώ στον πυρήνα των όσων λες, αλλά νομίζω ότι είναι θεωρητικά ( ή να έχω μπει σε ένα bubble που βλέπω το 1% των κακών και να τα κάνω project παντού, μπορεί να συμβαίνει και αυτό ). Επίσης δεν κατάλαβα, η ΗΠΑ δεν είναι σοβαρό κράτος ή θεωρείς ότι το lobbying και ο τρόπος που νομοθετούν ότι είναι παράδειγμα προς μίμηση?
Αυτό δεν είναι προβληματικό? Η κρίση έγινε και πείραξε εμάς, τον απλό κόσμο, ότι η Lehman χρεωκόπησε δεν πείραξε κανένα φυσικό πρόσωπο που να ήταν υψηλά ιστάμενο. Η ικανότητα της Lehman και της Goldman και της BP και της GΜ να χρηματοδοτούν για να κατευθύνουν τα συμφέροντα τους στη νομοθέτηση, τους φέρνει στο σημείο όταν κάτι “σκάσει” να μην υπάρχει και ιδιαίτερο πρόβλημα, γιατί την πληρώνει η εταιρεία όχι οι υπεύθυνοι. Και όταν ξανανομοθετούν πάλι έιναι εκεί για να διασφαλίσουν τα συμφέροντα τους.
Πάλι βάζεις πολλά links για να προλάβω να τα διαβάσω όλα, άρα θα κάνω μια πιο απλή ρομαντική παρατήρηση γι’αυτά που λες 
Οι Ιρλανδοί ήταν/είναι το δεύτερο πληθυσμιακό γκρουπ μεταναστών απ’την Ευρώπη πίσω απ’τους Γερμανούς στις ΗΠΑ. Οι Ολλανδοί, είναι στην ουσία αυτοί που δημιούργησαν το διεθνές εμπόριο ( πολύ χοντρικά ) σαν προπομπός του τι γίνεται σήμερα ( μαζί με το σκλαβοπάζαρο κατευθείαν στην Αμερική από την Αφρική ). Τι θέλω να πω. Μπορούμε να κοιτάμε τους λόγους στο τώρα, αλλά πρέπει να κοιτάμε και το πίσω, οι δομές και οι σχέσεις και τα κόλπα και οι νομοθεσίες δεν προέρχονται στο ξεκάρφωτο. Και στην Ολλανδία έχουν πάρα πολλά loopholes για πολυεθνικές και expats, ενώ δεν είναι τυχαίο ότι μιλάμε για offshore που κρύβουν τα έσοδα. Προφανώς κάνω μια πολύ απλοική ανάλυση, αλλά δεν είναι τυχαίο ότι γίνονται στην Ιρλανδία και στην Ολλανδία αυτά ή επειδή μιλάνε Αγγλικά ( οι Αμερικάνοι μιλάνε Αγγλικά ). Θα επανέλθω και για τα προηγούμενα που ανέφερες και στο προηγούμενο.
1 Like
Ωπ, ωπ, φρέσκο από το φούρνο!
Η Γαλλία είναι η δεύτερη φορά που ρίχνει γερά πρόστιμα στις big tech. Είναι ένα bras de fer μεταξύ χωρών όλο αυτό, εν τέλει περισσότερο πολιτικό, παρά νομικό παιχνίδι.
2 Likes
Ένα άρθρο που περικλύει λίγο πολύ όλα αυτά που λέγαμε ( εκτός των νομικών που λέει ο ακέφαλος ) για το fb.
1 Like
Έχετε γράψει πολύ ενδιαφέροντα πράγματα και δε θέλω να αλλάξω ούτε τελεία σε όσα έχετε πει. Ακόμη και σε αυτά που δε νομίζω πως συμφωνώ. Θεωρώ πως το πρόβλημα δεν εμπίπτει αμιγώς σε ένα τομέα (π.χ. νομικό, πολιτικό, τεχνολογικό, …) αλλά είναι πολλοί τομείς μαζί. Για αυτό και πιστεύω πως όλες οι απόψεις από όλες τις οπτικές γωνίες είναι απαραίτητο να ειπωθούν και είναι δυνητικά εξίσου σωστές ακόμη κι όταν είναι αντικρουόμενες.
Εγώ μαθηματικά κι αλγόριθμους τους καταλαβαίνω αρκετά καλά (secondary expertise) και θα προσπαθήσω να μοιραστώ μαζί σας κάποιες από τις σκέψεις μου. Τα social media είναι από το 2004 ένα κομμάτι της καθημερινότητας μου και χάρη σε αυτά κατάφερα να διατηρήσω φίλους όταν ξενιτεύτηκα. Αλλά πλέον τα συμπαθώ όλο και λιγότερο. Θα ασχοληθώ κυρίως με το ερώτημα:
Είναι τα social media απλά ένα εργαλείο και άρα ο χρήστης φταίει για την μη ορθή χρήση τους;.
Αν βαριέστε να διαβάσετε το σεντόνι, τότε η απάντηση είναι: “όχι δεν είναι εργαλείο του χρήστη, αλλά ο χρήστης είναι το εργαλείο τους”. Ακολουθεί το σεντόνι, επεξηγώντας το.
Σεντόνι αλλά θα μάθετε και πράγματα
Στο Β’ Παγκόσμιο πόλεμο είχε πέσει η ιδέα ανάμεσα στους μαθηματικούς των συμμάχων, το να παραπλανήσουν τους Ναζί μαθηματικούς με το να τους διαρρεύσουν ένα άλυτο πρόβλημα που φαινομενικά θα κέρδιζε τον πόλεμο. Το άλυτο πρόβλημα ήταν το “multi-armed bandit”: το πώς να διαχειριστείς τους περιορισμένους πόρους σου (π.χ. τις περιορισμένες σου μάρκες στο καζίνο ή σε πετρέλαιο) όταν ξεκινάς δίχως να ξέρεις τι κέρδη θα σου φέρει η κάθε επιλογή (π.χ. ποιοι κουλοχέρηδες βγάζουν jackpot συχνότερα και πού να στείλεις τα τανκς;). Το άλυτο πρόβλημα των μαθηματικών του 1940 είναι πλέον το λυμένο πρόβλημα που θα διδαχθούν πρώτο όσοι ξεκινούν να μάθουν Reinforcement Learning (RL: “ενισχυτική μάθηση”), ότι κοντινότερο έχουμε σε Artificial Generic Intelligence και του οποίου οι δυνατότητες αυξάνουν όσο βελτιώνεται η τεχνολογία των επεξεργαστών.
Χρησιμοποιούν/αναπτύσσουν οι big tech το RL? Ξεκάθαρα ναι. Από το πώς θα μοιράσουν τα Notification, πότε/πως να αυξομειώσουν τιμές, πώς να κάνουν οχήματα δίχως οδηγό, τι related άρθρα να βγάλουν, πώς να αυξήσουν τις πωλήσεις όσων διαφημίζονται, κ.α. Για εμάς που έχουμε λογαριασμό σε social media, το RL δεν είναι ένα εργαλείο που ελέγχουμε για να επηρεάσουμε καταστάσεις. Το RL είναι ένα εργαλείο που τα social media ελέγχουν και μπορεί να επηρεάσει εμάς. Ακόμη χειρότερα, είναι ένα εργαλείο που πολλές φορές ούτε αυτός που το χρησιμοποιεί δε μπορεί να νιώσει βέβαιος πως το εφαρμόζει σωστά (γενικά ο Κιούμπρικ έβλεπε μπροστά με το Space Odyssey) .
Στο βασικό σχήμα του RL υπάρχουν:
- ένα περιβάλλον (π.χ. καζίνο με 50 κουλοχέρηδες)
- ένας πρωταγωνιστής (π.χ. παίκτης καζίνο) που αποφασίζει βάση της τωρινής του κατάστασης (μάρκες)
- και η επιβράβευση (π.χ. έχασε την μάρκα ή την πολλαπλασίασε).
Ο σχεδιασμός της επιβράβευσης απαιτεί πραγματικά πολλή δουλειά και τα τελικά αποτελέσματα θα εξαρτώνται από τα πώς όρισε ο χρήστης την επιβράβευση (υποκειμενικότητα φουλ). Ακόμη και για τις πιο απλές εφαρμογές απαιτείται πάρα πολλή δουλειά για να σχεδιαστεί η σωστή επιβράβευση. Όσο πιο πολύπλοκο το πρόβλημα, τόσο μεγαλύτερος o κόπος. Και όσο πιο πολύπλοκο το περιβάλλον στον RL αλγόριθμο, τόσο πιο μεγάλη προσοχή και σχολαστικότητα απαιτείται. Κι ακόμη κι αν έχουν άπειροι άνθρωποι περάσει άπειρες ώρες για να φτιάξουν ένα RL αλγόριθμο σε ένα πολύ καλά κατανοητό περιβάλλον, ακόμη μπορεί να μην καταλαβαίνουν τα αποτελέσματα ( δείτε το ντοκιμαντέρ Alpha Go και πως η Google νόμιζε πως ο αλγόριθμος χάλασε ενώ ο αλγόριθμος εξέλισσε το αρχαίο παιχνίδι με νέες στρατηγικές που δεν ήταν τελικά λάθος)
Πιο απτό παράδειγμα κακοσχεδιασμένης επιβράβευσης: ένα ρομπότ που καθαρίζει μπορεί να θεωρεί ως επιβράβευση “το εμβαδόν που καθάρισε”. Θα πατάει όμως πάντα την γάτα και θα πέφτει στα έπιπλα/τοίχους. Ενώ αν η επιβράβευση γίνει “το εμβαδόν που καθάρισε δίχως να αγγίξει κάτι άλλο”, τότε θα έχουμε ένα νέο πιθανόν καλύτερο ρομποτάκι κι ας είναι με τον ίδιο αλγόριθμο.
Τι ισχύει στην περίπωση των social media; Το περιβάλλον είμαστε όλοι εμείς και η βιολογία μας (ντοπαμίνη στον εγκέφαλο και δίκτυο νευρώνων). Η επιβράβευση όμως δεν αποφασίζεται από εμάς αλλά από το εκάστοτε development team ενός social media. Εμείς δεν την ξέρουμε. Το μόνο που ξέρουμε είναι πως το δικό μας συμφέρον δεν είναι προτεραιότητα και ο RL εφαρμόζεται πάνω μας από κόσμο με ελλιπέστατες γνώσεις σε θέματα όπως ψυχολογία, κοινωνιολογία, οικονομία, κ.α…
Οτιδήποτε κάνει το facebook/Instagram/Twitter όταν το ανοίγουμε είναι επηρεασμένο από RL αλγόριθμο. Ακόμη και το ποια και πότε Fake News θα εμφανιστούν εξαρτάται από τον αλγόριθμο. Αν το καταναλωτικό προφίλ των ψεκασμένων διαφέρει από τους μη “ψεκασμένους”, τότε τον αλγόριθμο τον συμφέρει να συντηρήσει αυτές τις δύο ξέχωρες ομάδες. Δεν έχει προγραμματίσει κανείς το κακό που κάνουν οι ψεκασμένοι. Το μόνο που θα εντοπίσει αυτόματα ο αλγόριθμος είναι πως έτσι πουλάει καλύτερα διαφορετικά προϊόντα.
Ο αλγόριθμος στα Social Media εκπαιδεύεται από 400 εκατομμύρια προφίλ (big data) στο πώς να “παίζει κουλοχέρη” και μετά μας παίζει στα δάκτυλα: άλλους λιγότερο κι άλλους περισσότερο. Τυχαία μπαίνω τώρα και κάνω refresh το timeline μου στο facebook μου και βλέπω τα εξής: 3 φίλοι ανέβασαν φωτογραφία τα χιόνια που έχουμε σήμερα και το facebook μου διαφημίζει γάντια για τα χιόνια. Θα είχε διαλέξει το facebook να μου δείξει το status update αυτών των 3 φίλων μου αν δεν είχε για πελάτη αυτά τα γάντια; Μόνο τόσο λίγοι φίλοι μου έκαναν νέο status τις τελευταίες ώρες; Δεν το ξέρω. Αυτό που υποψιάζομαι είναι πως τα δικά μου status, ακόμη κι όταν είναι παρόμοιας ποιότητας καταλήγουν να έχουν διαφορετική αντιμετώπιση από το facebook ως προς το πόσοι θα τα δουν.
Επίσης μου διαφημίζει σήμερα για πρώτη φορά ένα μεσιτικό γραφείο ανάμεσα σε άρθρα για τον covid - που όντως την Παρασκεύη έψαξα απευθείας από τις 2 ιστοσελίδες που ξέρω για την πόλη μου τι παίζει με τα διαμερίσματα. Το σκεπτικό μου ήταν πως ο covid θα είχε ρίξει τις τιμές, όπως έλεγε ένα άρθρο που διάβασα λίγες μέρες νωρίτερα και το οποίο μου το είχε διαλέξει το Facebook να μου δείξει. Από εφημερίδα που ακολουθώ βέβαια, αλλά γιατί δεν είχα δει άλλα άρθρα της τόσο καιρό; Δεν είναι δυνατόν κάποιος στο facebook να σκέφτηκε “βάση του προφίλ του karvou, πιθανότατα χρειάζονται 16 κύκλοι ύπνου REM για να αναπτύξουμε στον εγκέφαλο του την ιδέα πως τα νοίκια έπεσαν λόγω covid ώστε να έχει νόημα να του δείξουμε τον μεσίτη πελάτη μας ανάμεσα σε άρθρα για τον covid”. Θα μπορούσε όμως το RL να έκανε το συσχετισμό μόνο του. Κι αν δεν μπορεί να τον κάνει σήμερα αυτό τον συσχετισμό σίγουρα θα μπορεί στο μέλλον όσο τα data και η επεξεργαστική ισχύς αυξάνονται.
Δεν ξέρω αν οι big tech καταλαβαίνουν τις προεκτάσεις του να βάζουν data/computer scientists με 6 credits σε ανθρωπιστικές επιστήμες στο να εφαρμόζουν RL αλγορίθμους στην παγκόσμια κοινότητα. Αυτό που με τρομάζει όμως περισσότερο από όλα, είναι πως δε μπορώ να σκεφτώ άλλη εφαρμογή του RL όπου το περιβάλλον είναι η κοινωνία όλη (πιθανή εξαίρεση τα φανάρια). Στον χώρο των επιστημών, τέτοια πειράματα σε ανθρώπους πρέπει πρώτα να εγκριθούν από μια επιτροπή δεοντολογίας. Ακόμη και στον παλιό κόσμο των μηχανικών, έτσι γινόταν: το “RL” είναι η άλλη όψη του “Αυτόματου Ελέγχου” και δεν ήταν όλες οι μέθοδοι αποδεκτές όταν η εφαρμογή συμπεριλάμβανε ανθρώπους (π.χ. ο αυτόματος έλεγχος στα αεροπλάνα δε μπορούσε να είναι στοχαστικός και θα έπρεπε να μπορεί να επαναληφθεί για τεστάρισμα).
Αμφιβάλω πως κανείς στα social media μπορεί να κρίνει τα κέρδη τους από την “επιβράβευση” που διάλεξαν και το κοινωνικό αποτύπωμα στο οποίο θα συγκλίνει εν τέλει. Είμαι βέβαιος όμως πως κανείς τους δεν ξέρει τη διαδρομή με την οποία αυτό το αποτύπωμα θα συγκλίνει. Πιθανόν η διαδρομή να περνάει προηγουμένως από ανεπιθύμητες καταστάσεις που θα μπορούσαν να είχαν αποφευχθεί με μια σωστότερη “επιβράβευση” και περισσότερη προσοχή στο με τι “πειραματιζόμαστε”.
Η άποψη μου είναι πως πρέπει όλοι από τις ανθρωπιστικές επιστήμες να πέσουν πάνω στο πρόβλημα και να ενημερώσουν κι όσους σχεδιάζουν αυτούς τους αλγόριθμους δίχως να κατανοούν τις επιπτώσεις.
13 Likes
Ακριβώς, μα ακριβώς αυτό. Επειδή είμαι και μέλος σε Επιτροπή ηθικής και δεοντολογίας ελληνικού ΑΕΙ, θα σου πω πως γελάω που διαβάζω αιτήσεις για ένα chatbot ενός διδακτορικού φοιτητή και πρέπει να εξετάσω όλα τα ηθικά και νομικά ζητήματα, και το facebook γαμάει ό, τι του καπνίσει.
Πάντως για το θέμα των αλγορίθμων που λες, είναι πλέον αυταπόδεικτο ότι οι συσχετισμοί που κάνουν είναι αδιανόητα πιο περίπλοκοι και υστερόβουλοι από το απλο ‘έκανα search για χιόνια, μου διαφημίζει γάντια’. Το ξέρουμε όλοι αυτό, αλλά είναι τρομακτικό. Το ντοκιμαντέρ Social Dilemma το αγγίζει αυτό το θέμα, αλλά εν καιρώ θα επανέλθω με πηγές (γιατί ήδη το έχουμε υπερφορτώσει).
Κατα τ’ άλλα τρομερό το παράδειγμα που έθεσες, με ενέπνευσες! Πέραν του ότι ξεκίνησα το Life 3.0 (νομίζω εσύ το πρότεινες).
5 Likes
Δε το ξέρω καν το βιβλίο 
Αλλά ωραίο μοιάζει. Και προτείνω πολύ το documentary για το Alpha Go. Είναι πολύ ειλικρινές για τα τωρινά limitations και δε μπαίνει σε τεχνικές λεπτομέρειες.
Βασικά, δε λέω πως το Facebook μου δείχνει γάντια γιατί έκανα search ή γιατί χιόνισε. Λέω πως το Facebook ίσως να μη μου δείχνει τα νέα των φίλων μου που δεν ταιριάζουν με προϊόν που προωθεί το Facebook. Άρα το ερώτημα είνα, κρατάω την ίδια επαφή με τους φίλους μου, που κρατούσα και παλιότερα μέσω Facebook; Επίσης, αν σου άρεσε το παράδειγμα με το αεροπλάνο: αν το Σύστημα Αυτομάτου Ελέγχου είχε πρόβλημα, αυτό θα φαινόταν στο μαύρο κουτί. Αυτή τη στιγμή τα big data είναι το μόνο μαύρο κουτί που έχουμε και οι εταιρείες αυτές δε το μοιράζονται. Δε μπορεί να γίνει σοβαρός έλεγχος των επιπτώσεων από τα social media δίχως αυτά τα data.
2 Likes
Μία σημείωση και μία ερώτηση.
Δεν είναι τόσο απλό το RL και σίγουρα δεν μπορούν να το κάνουν σε τόσο βαθύ επίπεδο ή καλύτερα, κοστίζει πάρα πολύ ( ακόμη ) για να το κάνουν τόσο έντονα. Δηλαδή εδώ ακόμα είναι σε ερευνητικό πεδίο το multi armed bandits για network handling και resource allocation. Μπορεί όπως αναφέρεις και μετά να είναι πεδίο δοκιμής, αλλά οκ, και σε όλα τα υπόλοιπα το πεδίο δοκιμής είναι οι άνθρωποι, δεν είναι και κάτι πρωτόγνωρο πέρα απ’την κλίμακα. Επίσης πολύ διαφορετική εταιρεία το fb με τη google ως προς τις δυνατότητες τους και με το τι ασχολούνται.
Η ερώτηση είναι πάνω σε αυτό:
Η ανθρωπότητα πάντα προχωράει με γνώμονα το “κάτι καλύτερο από αυτό που ξέρω”. Αυτή τη λογική την εφαρμόζουμε συνέχεια με διαφορετικούς τρόπους σε οποιαδήποτε χρονική στιγμή. Αν μπορούμε να βρούμε μια “συνάρτηση” η οποία θα μας δώσει σίγουρα αποτέλεσμα που συγκλίνει και μάλιστα από δική μας επιλογή ( αφού εμείς την προγραμματίζουμε, εννοώντας το αποτέλεσμα μπορεί να είναι είτε “καλό” είτε “κακό” αφού εμείς επιλέγουμε το κέρδος ), είμαστε διατεθιμένοι να ακολουθήσουμε? Και αν όχι, τι διαφορά έχει αυτή η προσέγγιση από το να ακολουθούμε νόμους/κανόνες/οικονομικά μοντέλα κλπ, όταν επιπλέον δεν είμαστε σίγουροι που θα καταλήξει?
3 Likes
Εγώ έχω καταλάβει πως αλγόριθμοι για να το λύσουν έχουν βρεθεί. Πλέον χρησιμοποιείται ως test case για να συγκριθούν διαφορετικοί αλγόριθμοι μεταξύ τους (πιο γρήγορος, σταθερός, κλπ). Αλλά πιθανόν να έχεις και δίκιο. Γενικά σε όλα αυτά τα προβλήματα, πολλές φορές μια μικρή παραλλαγή τα κάνει εξαιρετικά πιο πολύπλοκα. Πάντως, RL έχουν και τα αυτοκίνητα δίχως οδηγό των Uber/Google/Tesla και η Facebook έχει RL για τα notifications (είναι open source o κώδικας νομίζω λέγεται Horizon ή Rebel ). Φαντάζομαι θα είναι και online μέθοδος για να μαθαίνει συνεχώς με κάθε κλικ σε διαφήμιση που γίνεται.
Αν μιλάμε για τα Social Media, τότε η απάντηση μου είναι “να πάψει να είναι εμπορικό μυστικό το τι κάνουν, να το δούμε να το μελετήσουμε και να κρίνουμε”. Αν μιλάμε για γενικότερα, θα έλεγα εξαρτάται. Τυπικά και ο εγκέφαλος μας τρέχει με τον τρόπο που ενέπνευσε το RL (νευρωνικά δίκτυα για τη μοντελοποίηση των αποφάσεων και η ντοπαμίνη είναι η επιβράβευση) άρα το RL δεν είναι κάτι εκ φύσεως κακό. RL όπως λες θα έπρεπε να θυμίζει και μια δημοκρατία αφού “σε κάθε εκλογική διαδικασία ψηφίζουν όλοι για να μεγαλώσουν την επιβράβευση τους με βάση την κατάσταση τους”. Αλλά η σύγκλιση σε κάτι καλό δε σημαίνει απαραίτητα καλή διαδρομή και για αυτό εγώ δεν είμαι διαθετιμένος να την ακολουθήσω με κλειστά τα μάτια. Για παράδειγμα, το πετρέλαιο: χάρη στο πετρέλαιο συγκλίνουμε τώρα σε μια κατάσταση που υπάρχει αρκετό λίπασμα για να φάνε 7 δις άνθρωποι. Αλλά με τι κόστος; Δύο παγκόσμιους πολέμους και τεράστια φτώχια όποτε η οικονομία κάνει κύκλο και ανεβαίνει η τιμή του πετρελαίου (άρα και λιπάσματος). Φαίνεται πως συγκλίνει: αλλά αξίζει το κόστος; Αν είσαι αυτός που πτώχευσε;
4 Likes