Εισαγωγή στη μηχανική μάθηση

Εισαγωγή

Σε αυτό το κεφάλαιο, εξετάζουμε την έννοια της μηχανικής μάθησης (machine learning), ενός κλάδου της τεχνητής νοημοσύνης (artificial intelligence, AI) που επιτρέπει στους υπολογιστές να μαθαίνουν από δεδομένα και να κάνουν προβλέψεις ή να λαμβάνουν αποφάσεις χωρίς να τους δίνονται ρητές ή άμεσες οδηγίες (με τη λογική του «αν…τότε…»). Αν και ο όρος μπορεί να ακούγεται τεχνικός, η μηχανική μάθηση βρίσκεται ήδη παντού γύρω μας: από τον τρόπο με τον οποίο οι πλατφόρμες streaming προτείνουν ταινίες και τον τρόπο με τον οποίο τα φίλτρα ανεπιθύμητης αλληλογραφίας εντοπίζουν τα ανεπιθύμητα email, μέχρι τις εξατομικευμένες διαφημίσεις που βλέπουμε στο διαδίκτυο, ακόμη και τον τρόπο με τον οποίο τα χρηματοπιστωτικά ιδρύματα εντοπίζουν δόλιες συναλλαγές. Αυτές οι τεχνολογίες μάς βοηθούν να λύνουμε προβλήματα, να ανακαλύπτουμε μοτίβα και να βελτιώνουμε τη λήψη αποφάσεων σε ένα ευρύ φάσμα πεδίων.

Για να το παρουσιάσουμε, ας θεωρήσουμε μια δημοτική αρχή που προσπαθεί να βελτιώσει τη ροή της κυκλοφορίας και να μειώσει τη συμφόρηση. Αντί να βασίζεται αποκλειστικά σε χειροκίνητες καταμετρήσεις οχημάτων ή σε παλαιότερες υποθέσεις για τις ώρες αιχμής, η δημοτική αρχή μπορεί να συλλέγει δεδομένα από αισθητήρες, συσκευές GPS και κάμερες κυκλοφορίας και, εφαρμόζοντας μηχανική μάθηση, οι αρμόδιοι μπορούν να εντοπίζουν μοτίβα στην κίνηση των οχημάτων, να προβλέπουν τη συσσώρευση κυκλοφορίας πριν αυτή συμβεί και να προσαρμόζουν τους χρόνους των φωτεινών σηματοδοτών σε πραγματικό χρόνο. Μπορούν μάλιστα να προσομοιώνουν τον αντίκτυπο του κλεισίματος δρόμων ή νέων ποδηλατοδρόμων πριν εφαρμόσουν τις αλλαγές. Με λίγα λόγια, η μηχανική μάθηση μετατρέπει τα ακατέργαστα δεδομένα κυκλοφορίας σε αξιοποιήσιμες πληροφορίες που υποστηρίζουν έναν πιο έξυπνο πολεοδομικό σχεδιασμό, βασισμένο στα δεδομένα.

Αυτά τα παραδείγματα αναδεικνύουν τη δύναμη της μηχανικής μάθησης να μετατρέπει σύνθετα και ακατάστατα δεδομένα σε χρήσιμες πληροφορίες. Πώς όμως λειτουργεί αυτό στην πράξη; Και σε τι διαφέρει η μηχανική μάθηση από άλλες προσεγγίσεις που βασίζονται στα δεδομένα, όπως η παραδοσιακή στατιστική ή η εξόρυξη δεδομένων; Για να το κατανοήσουμε, πρέπει να εξετάσουμε πιο προσεκτικά τι σημαίνει για μια μηχανή να «μαθαίνει» από δεδομένα και πώς εξελίσσεται αυτή η διαδικασία μάθησης στην πράξη.

Ορισμός της μηχανικής μάθησης

Στον πυρήνα της, η μηχανική μάθηση αφορά την ανάπτυξη αλγορίθμων υπολογιστή που μπορούν να μετατρέπουν τα ακατέργαστα δεδομένα σε πληροφορίες ή ενέργειες (Mitchell, 1997). Αντί να τους λέμε ακριβώς τι να κάνουν σε κάθε δεδομένη κατάσταση, αυτοί οι αλγόριθμοι μαθαίνουν μοτίβα από παλαιότερα παραδείγματα και τα χρησιμοποιούν για να κάνουν προβλέψεις σε νέα δεδομένα, που δεν έχουν δει ακόμη. Σε αντίθεση με τον παραδοσιακό προγραμματισμό, όπου κάθε κανόνας πρέπει να είναι γραμμένος ρητά στον κώδικα, τα συστήματα μηχανικής μάθησης έχουν σχεδιαστεί ώστε να προσαρμόζονται και να βελτιώνονται όσο εκτίθενται σε περισσότερα δεδομένα.

Ένας διαισθητικός τρόπος για να το σκεφτούμε είναι μέσω μιας αναλογίας: να μάθουμε σε ένα παιδί να αναγνωρίζει φρούτα. Δεν δίνουμε στο παιδί μια λεπτομερή λίστα κανόνων για κάθε πιθανό φρούτο ή σχήμα. Αντίθετα, του δείχνουμε παραδείγματα (αυτό είναι ένα μήλο, αυτή είναι μια μπανάνα) και το αφήνουμε να παρατηρήσει τα μοτίβα. Με τον καιρό, το παιδί μαθαίνει να αναγνωρίζει σωστά νέα φρούτα, ακόμη κι αν δεν έχει δει ποτέ πριν τη συγκεκριμένη ποικιλία. Με παρόμοιο τρόπο, «εκπαιδεύουμε» μια μηχανή τροφοδοτώντας την με παραδείγματα από παλαιότερα δεδομένα και αφήνοντάς τη να μάθει τις σχέσεις μεταξύ εισόδων και αποτελεσμάτων. Το τελικό προϊόν αυτής της διαδικασίας είναι ένα μοντέλο μηχανικής μάθησης, ένα σύστημα που μπορεί να κάνει τεκμηριωμένες προβλέψεις ή να λαμβάνει αποφάσεις όταν του παρουσιάζονται νέα, άγνωστα ακόμη δεδομένα.

Αυτή η προσέγγιση που βασίζεται στη μάθηση διακρίνει τη μηχανική μάθηση από άλλους κλάδους που βασίζονται στα δεδομένα, όπως η παραδοσιακή στατιστική και η εξόρυξη δεδομένων (data mining). Αν και υπάρχει επικάλυψη μεταξύ τους, οι στόχοι και οι μέθοδοί τους διαφέρουν:

Η παραδοσιακή στατιστική εστιάζει συχνά στην ερμηνεία των σχέσεων μεταξύ μεταβλητών και στον έλεγχο υποθέσεων, συνήθως υπό αυστηρές υποθέσεις για τα δεδομένα. Για παράδειγμα, μια στατιστική ανάλυση μπορεί να θέσει το ερώτημα «Υπάρχει σημαντική σχέση μεταξύ του επιπέδου εισοδήματος και του προσδόκιμου ζωής;» και να χρησιμοποιήσει σαφώς ορισμένα μοντέλα για να ελέγξει αυτή τη σχέση, με γνώμονα την ακρίβεια και την ερμηνευσιμότητα. Η μηχανική μάθηση, αντίθετα, δίνει προτεραιότητα στην πρόβλεψη και στην κλιμακωσιμότητα έναντι της τυπικής στατιστικής συμπερασματολογίας. Μπορεί να μην παρέχει πάντα μια διαφανή εξήγηση για το πώς οι είσοδοι σχετίζονται με τις εξόδους, αλλά υπερέχει στον εντοπισμό σύνθετων μοτίβων σε μεγάλα σύνολα δεδομένων και στη δημιουργία ακριβών προβλέψεων. Για παράδειγμα, ένα μοντέλο μηχανικής μάθησης μπορεί να χρησιμοποιηθεί για να προβλέψει ποιοι πελάτες είναι πιθανό να ακυρώσουν μια συνδρομή, ακόμη κι αν δεν κατανοούμε πλήρως όλους τους λόγους.

Η εξόρυξη δεδομένων είναι μια συγγενής έννοια που βρίσκεται κάπου ανάμεσα στις δύο. Δίνει έμφαση στην ανακάλυψη χρήσιμων μοτίβων ή ανωμαλιών μέσα σε μεγάλα σύνολα δεδομένων, συχνά για διερευνητικούς σκοπούς. Η εξόρυξη δεδομένων χρησιμοποιεί συχνά τεχνικές μηχανικής μάθησης για να εξετάσει τα δεδομένα και να αποκαλύψει κρυφές σχέσεις ή clusters. Αν και η εξόρυξη δεδομένων συνήθως περιλαμβάνει μηχανική μάθηση, το αντίστροφο δεν ισχύει πάντα· η μηχανική μάθηση περιλαμβάνει ένα ευρύτερο σύνολο μεθόδων που δεν περιλαμβάνουν απαραίτητα εργασίες εξόρυξης δεδομένων.

Εξόρυξη δεδομένων και μηχανική μάθηση

Υπάρχουν συνεχιζόμενες συζητήσεις και διαφωνίες μεταξύ των ειδικών σχετικά με τα ακριβή όρια και την επικάλυψη μεταξύ της εξόρυξης δεδομένων και της μηχανικής μάθησης, καθώς οι ορισμοί και οι εφαρμογές τους μπορεί να διαφέρουν ανάλογα με το πεδίο και το πλαίσιο (Lantz, 2023).

Παρά τις διαφορές αυτές, και οι τρεις (η μηχανική μάθηση, η στατιστική και η εξόρυξη δεδομένων) βασίζονται σε ένα κοινό θεμέλιο: τα δεδομένα. Καθεμία επεξεργάζεται πληροφορίες για να εξαγάγει νόημα, αλλά το κάνει με διαφορετικά ερωτήματα κατά νου και με διαφορετικά εργαλεία στη διάθεσή της. Στο πλαίσιο της μηχανικής μάθησης, η εστίαση βρίσκεται στη δημιουργία συστημάτων που μπορούν να γενικεύουν από παλαιότερα δεδομένα και να εφαρμόζουν όσα έχουν μάθει σε νέες καταστάσεις, βελτιώνοντας συνεχώς τον εαυτό τους με την πάροδο του χρόνου.

Οφέλη και όρια της μηχανικής μάθησης

Η μηχανική μάθηση έχει αλλάξει ραγδαία τον τρόπο με τον οποίο αλληλεπιδρούμε με την τεχνολογία, λαμβάνουμε αποφάσεις και λύνουμε σύνθετα προβλήματα. Από τα αυτόνομα αυτοκίνητα μέχρι τη μετάφραση σε πραγματικό χρόνο, η επιρροή της είναι βαθιά. Όμως, ενώ η μηχανική μάθηση ανοίγει νέους δρόμους, εισάγει επίσης κινδύνους και ευθύνες.

Ένα από τα σημαντικότερα οφέλη της μηχανικής μάθησης είναι η ικανότητά της να φέρνει αποδοτικότητα και αυτοματοποίηση σε εργασίες που διαφορετικά θα ήταν χρονοβόρες, επαναλαμβανόμενες ή δύσκολες για τους ανθρώπους σε μεγάλη κλίμακα. Στην καθημερινή ζωή, τα συστήματα φιλτραρίσματος email χρησιμοποιούν μηχανική μάθηση για να εντοπίζουν και να μπλοκάρουν τα ανεπιθύμητα μηνύματα. Στη βιομηχανία, τα συστήματα προγνωστικής συντήρησης αναλύουν δεδομένα αισθητήρων από μηχανήματα για να προβλέπουν βλάβες πριν συμβούν, μειώνοντας τον χρόνο διακοπής λειτουργίας και το κόστος επισκευών. Στην υγειονομική περίθαλψη, οι αλγόριθμοι μπορούν να εξετάζουν ιατρικές εικόνες για να εντοπίζουν ασθένειες όπως ο καρκίνος, μερικές φορές με μεγαλύτερη ταχύτητα και ακρίβεια από τους ειδικούς. Αυτά τα παραδείγματα δείχνουν ότι η μηχανική μάθηση όχι μόνο επιταχύνει τις διαδικασίες, αλλά εξασφαλίζει επίσης σταθερή απόδοση (ακόμη και χαμηλότερο κόστος), καθώς οι μηχανές δεν κουράζονται ούτε ξεχνούν και μπορούν να εργάζονται συνεχώς.

Ένα άλλο σημαντικό πλεονέκτημα της μηχανικής μάθησης είναι η εξατομίκευση. Μαθαίνοντας από τη συμπεριφορά των χρηστών, οι αλγόριθμοι μπορούν να προσαρμόζουν περιεχόμενο, προϊόντα ή υπηρεσίες στις προτιμήσεις του καθενός. Οι πλατφόρμες streaming, όπως το Netflix ή το Spotify, αναλύουν τι παρακολουθούν ή τι ακούν οι χρήστες και χρησιμοποιούν αυτά τα δεδομένα για να προτείνουν σειρές ή τραγούδια που ταιριάζουν με τα γούστα τους. Οι ιστότοποι ηλεκτρονικού εμπορίου χρησιμοποιούν παρόμοια δεδομένα για να προτείνουν προϊόντα που μπορεί να ενδιαφέρουν έναν πελάτη, αυξάνοντας συχνά την αλληλεπίδραση και τις πωλήσεις. Οι πλατφόρμες ηλεκτρονικής εκπαίδευσης μπορούν να προσαρμόζουν τον ρυθμό και τη δυσκολία των μαθημάτων με βάση την πρόοδο κάθε μαθητή, βελτιώνοντας έτσι την εμπειρία μάθησης. Αυτά τα εξατομικευμένα συστήματα βασίζονται στην ικανότητα της μηχανικής μάθησης να εντοπίζει μοτίβα σε μεγάλα σύνολα δεδομένων και να τα εφαρμόζει σε πραγματικό χρόνο.

Η μηχανική μάθηση υπερέχει επίσης στο να κάνει προβλέψεις. Οργανισμοί σε πολλούς τομείς βασίζονται σε αυτήν για να προβλέπουν μελλοντικά αποτελέσματα με βάση ιστορικά δεδομένα. Για παράδειγμα, οι εταιρείες λιανικής τη χρησιμοποιούν για να προβλέπουν τη ζήτηση προϊόντων, κάτι που τις βοηθά να διαχειρίζονται πιο αποτελεσματικά τα αποθέματά τους. Στον χρηματοοικονομικό τομέα, οι τράπεζες χρησιμοποιούν μοντέλα μηχανικής μάθησης για να εκτιμήσουν την πιθανότητα ένας πελάτης να αποπληρώσει ένα δάνειο. Οι μετεωρολόγοι βελτιώνουν την ακρίβεια των προγνώσεων καιρού χρησιμοποιώντας συστήματα μηχανικής μάθησης εκπαιδευμένα σε δεδομένα δεκαετιών. Αυτές οι προβλεπτικές δυνατότητες βοηθούν τους οργανισμούς να λαμβάνουν πιο τεκμηριωμένες αποφάσεις, βασισμένες στα δεδομένα, που μπορούν να οδηγήσουν σε εξοικονόμηση κόστους, καλύτερο σχεδιασμό και μειωμένο κίνδυνο.

Πέρα από την πρόβλεψη, η μηχανική μάθηση μπορεί να αποκαλύψει μοτίβα στα δεδομένα που είναι υπερβολικά λεπτά ή σύνθετα για να τα εντοπίσουν οι άνθρωποι μόνοι τους. Στη βιολογία, για παράδειγμα, οι αλγόριθμοι ομαδοποίησης (clustering) ομαδοποιούν γονίδια με παρόμοια συμπεριφορά, βοηθώντας τους ερευνητές να κατανοήσουν τον ρόλο διαφορετικών γονιδίων σε διάφορες κυτταρικές διεργασίες. Στο μάρκετινγκ, η μηχανική μάθηση βοηθά τις επιχειρήσεις να εντοπίζουν διακριτά τμήματα πελατών με παρόμοιες συμπεριφορές ή προτιμήσεις, επιτρέποντας πιο στοχευμένες και αποτελεσματικές καμπάνιες. Αυτές οι πληροφορίες είναι ιδιαίτερα πολύτιμες όταν έχουμε να κάνουμε με μεγάλα, αδόμητα σύνολα δεδομένων, όπου οι παραδοσιακές μέθοδοι υστερούν.

Αφού εκπαιδευτεί ένα μοντέλο, τα συστήματα μηχανικής μάθησης είναι επίσης ιδιαίτερα κλιμακώσιμα. Αυτό σημαίνει ότι μπορούν να εφαρμόσουν όσα έχουν μάθει σε εκατομμύρια σημεία δεδομένων με ελάχιστο επιπλέον κόστος. Για παράδειγμα, ένας αλγόριθμος ανίχνευσης απάτης που έχει εκπαιδευτεί σε ένα σύνολο δεδομένων τραπεζικών συναλλαγών μπορεί να χρησιμοποιηθεί για την παρακολούθηση χιλιάδων συναλλαγών ανά δευτερόλεπτο. Ένα σύστημα αναγνώρισης φωνής που αναπτύχθηκε για μία γλώσσα μπορεί να επεκταθεί ή να προσαρμοστεί ώστε να λειτουργεί και σε πολλές άλλες. Αυτή η κλιμακωσιμότητα κάνει τη μηχανική μάθηση ιδιαίτερα ισχυρή σε ψηφιακά περιβάλλοντα, όπου ο όγκος και η ταχύτητα είναι καθοριστικής σημασίας.

Παρά αυτές τις εντυπωσιακές δυνατότητες, η μηχανική μάθηση έχει επίσης σημαντικούς περιορισμούς και εγείρει ηθικά ζητήματα. Μια σημαντική ανησυχία είναι η μεροληψία και οι διακρίσεις. Τα συστήματα μηχανικής μάθησης μαθαίνουν από ιστορικά δεδομένα, και αν αυτά τα δεδομένα περιέχουν μεροληψίες, το μοντέλο πιθανότατα θα τις αναπαραγάγει ή ακόμη και θα τις ενισχύσει. Μια γνωστή περίπτωση αφορούσε μια μεγάλη εταιρεία τεχνολογίας που εκπαίδευσε ένα μοντέλο αξιολόγησης βιογραφικών με δεδομένα προηγούμενων προσλήψεων. Επειδή το προσωπικό της ήταν ιστορικά στη συντριπτική του πλειονότητα ανδρικό, το μοντέλο έμαθε να ευνοεί τα βιογραφικά που αντανακλούσαν αυτό το προφίλ και να «τιμωρεί» ενδείξεις που σχετίζονταν με γυναίκες, όπως η συμμετοχή σε γυναικείους συλλόγους ή η αποφοίτηση από κολέγια αποκλειστικά για γυναίκες. Στην υγειονομική περίθαλψη, ορισμένα προβλεπτικά μοντέλα που χρησιμοποιούνταν για την κατανομή πόρων υποεκτιμούσαν συστηματικά τη σοβαρότητα της ασθένειας σε μαύρους ασθενείς, επειδή χρησιμοποιούσαν τις δαπάνες υγείας ως ενδεικτικό μέτρο της ανάγκης, παραβλέποντας το γεγονός ότι οι περιθωριοποιημένες ομάδες έχουν συχνά μικρότερη πρόσβαση στην περίθαλψη. Αυτά τα παραδείγματα αναδεικνύουν πώς τα μεροληπτικά δεδομένα εισόδου οδηγούν σε μεροληπτικά αποτελέσματα και, ακόμη χειρότερα, μπορούν να δημιουργήσουν την ψευδαίσθηση της αντικειμενικότητας, κάνοντας τα άδικα συστήματα να φαίνονται νόμιμα.

Η ιδιωτικότητα είναι ένα ακόμη κρίσιμο ζήτημα. Πολλές εφαρμογές μηχανικής μάθησης εξαρτώνται από τεράστιους όγκους προσωπικών δεδομένων. Ενώ οι χρήστες μπορεί να απολαμβάνουν πιο σχετικές διαφημίσεις ή υπηρεσίες, συχνά δεν γνωρίζουν πόσα δεδομένα συλλέγονται ή πώς χρησιμοποιούνται. Οι πλατφόρμες μέσων κοινωνικής δικτύωσης καταγράφουν τα likes, τις κοινοποιήσεις και τα κλικ μας για να προσαρμόζουν το περιεχόμενο και τις διαφημίσεις. Οι έξυπνες οικιακές συσκευές μερικές φορές καταγράφουν συνομιλίες χωρίς να το γνωρίζουν οι χρήστες και αποθηκεύουν αυτά τα ηχητικά δεδομένα σε διακομιστές cloud. Αυτό εγείρει άβολα ερωτήματα σχετικά με την επιτήρηση, τη συναίνεση και το όριο μεταξύ εξατομίκευσης και παρείσφρησης. Καθώς η μηχανική μάθηση ενσωματώνεται όλο και περισσότερο στη ζωή μας, η διατήρηση της ιδιωτικότητας και η διασφάλιση ότι οι χρήστες κατανοούν σε τι συναινούν γίνονται όλο και πιο σημαντικές.

Η διαφάνεια αποτελεί επίσης πρόκληση. Πολλά προηγμένα μοντέλα μηχανικής μάθησης λειτουργούν ως «μαύρα κουτιά» (black boxes), δηλαδή κάνουν ακριβείς προβλέψεις, αλλά είναι δύσκολο να κατανοήσουμε πώς ή γιατί. Αυτό γίνεται πρόβλημα σε αποφάσεις υψηλού διακυβεύματος. Για παράδειγμα, αν σε κάποιον απορριφθεί ένα δάνειο με βάση την πρόβλεψη ενός μοντέλου, μπορεί να θέλει να μάθει τον λόγο. Όμως, με τα σύνθετα μοντέλα, αυτή η εξήγηση μπορεί να μην είναι άμεσα διαθέσιμη. Στην ποινική δικαιοσύνη, ορισμένες δικαιοδοσίες έχουν χρησιμοποιήσει εργαλεία μηχανικής μάθησης για να προβλέψουν αν κάποιος είναι πιθανό να υποτροπιάσει. Αυτά τα εργαλεία μπορούν να επηρεάσουν αποφάσεις για την επιμέτρηση της ποινής ή την αποφυλάκιση υπό όρους, ωστόσο τα μοντέλα είναι συχνά ιδιόκτητα και δύσκολο να ελεγχθούν, εγείροντας ερωτήματα σχετικά με τη δίκαιη δίκη και τη λογοδοσία.

Επιπλέον, η μηχανική μάθηση μπορεί να χρησιμοποιηθεί για τη δημιουργία ψεύτικου ή παραπλανητικού περιεχομένου. Η τεχνολογία deepfake, η οποία χρησιμοποιεί τεχνητή νοημοσύνη για να δημιουργεί ρεαλιστικά αλλά ψεύτικα βίντεο με ανθρώπους, αποτελεί σοβαρή απειλή για την εμπιστοσύνη του κοινού. Ένα deepfake ενός πολιτικού ηγέτη που κάνει ψευδείς δηλώσεις θα μπορούσε να προκαλέσει σύγχυση ή πανικό. Ομοίως, κείμενο που παράγεται από τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για να κατακλύσει το διαδίκτυο με ψευδείς ειδήσεις ή παραπληροφόρηση. Αυτά τα εργαλεία μπορούν να χρησιμοποιηθούν κακόβουλα, υπονομεύοντας την εμπιστοσύνη στις πηγές πληροφόρησης, επηρεάζοντας εκλογές ή βλάπτοντας τη φήμη ανθρώπων.

Υπάρχουν επίσης οικονομικές επιπτώσεις. Η αυτοματοποίηση που βασίζεται στη μηχανική μάθηση μπορεί να εκτοπίσει εργαζόμενους, ιδιαίτερα σε θέσεις που περιλαμβάνουν επαναλαμβανόμενες ή τυποποιημένες εργασίες. Στον τομέα των μεταφορών, τα αυτόνομα φορτηγά απειλούν τις θέσεις εργασίας των επαγγελματιών οδηγών. Στην εξυπηρέτηση πελατών, τα chatbots διαχειρίζονται όλο και περισσότερα αιτήματα που κάποτε απαιτούσαν ανθρώπινους εκπροσώπους. Ακόμη και στη δημοσιογραφία, οι αλγόριθμοι μπορούν πλέον να γράφουν απλά άρθρα για αθλητικά αποτελέσματα ή οικονομικές ενημερώσεις. Χωρίς συντονισμένες προσπάθειες επανεκπαίδευσης και εκπαίδευσης, αυτή η μετάβαση θα μπορούσε να επιδεινώσει την ανισότητα, ωφελώντας όσους έχουν τις δεξιότητες να εργάζονται μαζί με τις μηχανές και αφήνοντας άλλους πίσω.

Υπό το φως όλων αυτών, είναι σαφές ότι η μηχανική μάθηση είναι ένα ισχυρό εργαλείο, που μπορεί να χρησιμοποιηθεί για να ενισχύσει τις δυνατότητές μας και να βελτιώσει τη λήψη αποφάσεων, αλλά και ένα εργαλείο που πρέπει να χρησιμοποιείται με προσοχή. Η αξία της εξαρτάται από τον τρόπο με τον οποίο αναπτύσσεται και εφαρμόζεται. Τα συστήματα μηχανικής μάθησης πρέπει να κατασκευάζονται με σύνεση, με προσοχή στη δικαιοσύνη, στη διαφάνεια και στη λογοδοσία. Αυτό περιλαμβάνει την προσεκτική επιλογή και τεκμηρίωση των δεδομένων εκπαίδευσης, την τακτική παρακολούθηση για επιβλαβείς επιπτώσεις και τη σαφή επικοινωνία σχετικά με τον τρόπο λήψης των αποφάσεων. Σημαίνει επίσης τη συμμετοχή ενός ευρέος φάσματος φωνών στις συζητήσεις για τον σχεδιασμό και τη χρήση αυτών των τεχνολογιών, ώστε τα οφέλη τους να μοιράζονται ευρέως και οι κίνδυνοί τους να αντιμετωπίζονται υπεύθυνα.

Δομές δεδομένων για τη μηχανική μάθηση

Στη μηχανική μάθηση, τα δεδομένα εμφανίζονται συνήθως σε δύο κύριες μορφές: δομημένα και αδόμητα. Η κατανόηση της δομής των δεδομένων σας είναι σημαντική, επειδή επηρεάζει το είδος των μοντέλων που μπορείτε να χρησιμοποιήσετε, τα βήματα προεπεξεργασίας που χρειάζεστε, ακόμη και την απόδοση της τελικής σας λύσης.

Τα δομημένα δεδομένα (structured data) είναι οργανωμένα σε μια σαφή και συνεπή μορφή, συνηθέστερα σε έναν πίνακα ή (στην Python) σε ένα DataFrame. Σε αυτή τη μορφή:

  • Οι γραμμές αναπαριστούν μεμονωμένες παρατηρήσεις, παραδείγματα ή σημεία δεδομένων· κάθε γραμμή αντιστοιχεί σε μία περίπτωση ή εγγραφή.

  • Οι στήλες αναπαριστούν χαρακτηριστικά, μεταβλητές ή προβλεπτικές μεταβλητές· κάθε στήλη περιέχει ένα συγκεκριμένο είδος πληροφορίας, μετρημένης σε όλες τις παρατηρήσεις.

Οι περισσότεροι κλασικοί αλγόριθμοι μηχανικής μάθησης έχουν σχεδιαστεί για να λειτουργούν με δομημένα δεδομένα. Γι’ αυτό αυτή η μορφή αποτελεί το σημείο εκκίνησης για την πλειονότητα των ροών εργασίας μηχανικής μάθησης στον πραγματικό κόσμο. Όπως τονίζει ο Hadley Wickham στην έννοια των τακτοποιημένων δεδομένων (tidy data), «Κάθε μεταβλητή αποτελεί μια στήλη, κάθε παρατήρηση αποτελεί μια γραμμή και κάθε τύπος μονάδας παρατήρησης αποτελεί έναν πίνακα». Αυτή η αρχή διασφαλίζει ότι τα δεδομένα είναι οργανωμένα με συνεπή και ουσιαστικό τρόπο, κάτι που απλοποιεί τα βήματα του καθαρισμού, της διερεύνησης, του μετασχηματισμού και της μοντελοποίησης των δεδομένων. Πολλά εργαλεία μηχανικής μάθησης (ιδίως στην R και στην Python) είναι χτισμένα γύρω από αυτή την τακτοποιημένη μορφή, διευκολύνοντας τη μετάβαση από τα ακατέργαστα δεδομένα σε ένα λειτουργικό μοντέλο. Τα τακτοποιημένα δεδομένα δεν είναι νέα έννοια για εμάς· έχουμε εργαστεί με αυτά σε όλο αυτό το βιβλίο, κάτι που κάνει την εφαρμογή των μεθόδων μηχανικής μάθησης πιο απλή.

Από την άλλη πλευρά, τα αδόμητα δεδομένα (unstructured data), όπως έγγραφα κειμένου, εικόνες, ήχος ή βίντεο, δεν χωρούν φυσικά σε γραμμές και στήλες. Αν και αυτός ο τύπος δεδομένων είναι συχνά εύκολος στην ερμηνεία για τους ανθρώπους, θέτει μεγάλες προκλήσεις για τη μηχανική μάθηση. Τα αδόμητα δεδομένα πρέπει συχνά να μετατραπούν σε δομημένη μορφή πριν μπορέσουν να χρησιμοποιηθούν αποτελεσματικά. Για παράδειγμα, η επεξεργασία φυσικής γλώσσας μπορεί να μετατρέψει το κείμενο σε πλήθη λέξεων, και η επεξεργασία εικόνας μπορεί να αναπαραστήσει τα pixels ως arrays αριθμών.

Λόγω της σαφήνειας, της προσβασιμότητας και της άμεσης συμβατότητάς τους με τους περισσότερους αλγορίθμους, τα δομημένα δεδομένα αποτελούν το θεμέλιο για πολλές εφαρμογές μηχανικής μάθησης. Επιτρέπουν στους επαγγελματίες να δημιουργούν, να αξιολογούν και να ερμηνεύουν γρήγορα μοντέλα, ιδίως όταν ξεκινούν ή όταν εργάζονται σε τυπικά επιχειρηματικά ή επιστημονικά προβλήματα. Ακόμη και σε πιο προηγμένες εφαρμογές που περιλαμβάνουν αδόμητα δεδομένα, μέρος της ροής εργασίας περιλαμβάνει συχνά τη μετατροπή αυτών των δεδομένων σε μια δομημένη μορφή που μπορούν να χειριστούν οι αλγόριθμοι.

Τύποι μηχανικής μάθησης

Η μηχανική μάθηση μπορεί να χωριστεί σε γενικές γραμμές σε επιβλεπόμενη μάθηση (supervised learning) και μη επιβλεπόμενη μάθηση (unsupervised learning), με αρκετές άλλες σημαντικές παραλλαγές που βασίζονται σε αυτούς τους θεμελιώδεις τύπους ή τους συνδυάζουν.

Επιβλεπόμενη και μη επιβλεπόμενη μάθηση

Η επιβλεπόμενη μάθηση περιλαμβάνει την εκπαίδευση μοντέλων με δεδομένα που περιέχουν μια συγκεκριμένη μεταβλητή-στόχο ή εξαρτημένη μεταβλητή. Ο στόχος της εκπαίδευσης είναι η μηχανή να μάθει μια συνάρτηση που αντιστοιχίζει τα χαρακτηριστικά εισόδου σε αυτό το γνωστό αποτέλεσμα. Για παράδειγμα, ας θεωρήσουμε ένα ηλεκτρονικό κατάστημα που ενδιαφέρεται να προβλέψει τις online αγορές: η μεταβλητή-στόχος (εξαρτημένη μεταβλητή) θα μπορούσε να είναι ο αριθμός των αγορών που πραγματοποιούνται μέσα σε έναν μήνα. Το μοντέλο χρησιμοποιεί ιστορικά δεδομένα όπου αυτός ο στόχος είναι γνωστός, μαθαίνει τη σχέση και στη συνέχεια προβλέπει μελλοντικές (δηλαδή ακόμη άγνωστες) τιμές του στόχου.

Ορολογία

Η μεταβλητή που θέλουμε να προβλέψουμε ονομάζεται μεταβλητή-στόχος (target) ή εξαρτημένη μεταβλητή (dependent variable). Οι μεταβλητές που χρησιμοποιούνται για την πρόβλεψη ονομάζονται προβλεπτικές μεταβλητές (predictors), χαρακτηριστικά (features) ή ανεξάρτητες μεταβλητές (independent variables).

Η μη επιβλεπόμενη μάθηση, αντίθετα, αφορά δεδομένα χωρίς προκαθορισμένη μεταβλητή-στόχο. Ο σκοπός εδώ είναι να αποκαλυφθούν μοτίβα ή δομή απευθείας από τα χαρακτηριστικά. Χρησιμοποιώντας το ίδιο παράδειγμα της ψηφιακής εταιρείας, η μη επιβλεπόμενη μάθηση θα μπορούσε να ομαδοποιήσει τους πελάτες σε τμήματα όπως «Πιστοί πελάτες» (πολλές επισκέψεις και πολλές αγορές), «Απλοί επισκέπτες» (πολλές επισκέψεις αλλά λίγες αγορές) και «Περιστασιακοί αγοραστές» (λίγες επισκέψεις και λίγες αγορές), αποκλειστικά με βάση τη συμπεριφορά τους. Επειδή δεν υπάρχει ρητός στόχος, η αξιολόγηση της ποιότητας των αποτελεσμάτων είναι συχνά πιο υποκειμενική και απαιτεί γνώση του αντικειμένου.

Επιβλεπόμενη μάθηση

Στην επιβλεπόμενη μάθηση, τα προβλήματα εμπίπτουν γενικά σε δύο κύριες κατηγορίες, ανάλογα με τη φύση της μεταβλητής-στόχου:

  • Προβλήματα παλινδρόμησης: Η μεταβλητή-στόχος είναι συνεχής. Για παράδειγμα, η πρόβλεψη των καθαρών πωλήσεων μιας αυτοκινητοβιομηχανίας για το επόμενο ημερολογιακό έτος είναι ένα πρόβλημα παλινδρόμησης. Ο στόχος είναι να παραχθούν προβλέψεις όσο το δυνατόν πιο κοντά στις πραγματικές τιμές. Μια πρόβλεψη 349.5 εκατομμυρίων, όταν οι πραγματικές πωλήσεις είναι 350 εκατομμύρια, θεωρείται καλή, ακόμη κι αν δεν είναι ακριβής.

  • Προβλήματα ταξινόμησης (classification): Η μεταβλητή-στόχος είναι κατηγορική, δηλαδή μπορεί να πάρει μία από ένα περιορισμένο σύνολο διακριτών τιμών, που συνήθως ονομάζονται κατηγορίες (classes). Ένας αλγόριθμος μηχανικής μάθησης σχεδιασμένος για αυτό το είδος προβλήματος ονομάζεται ταξινομητής (classifier), επειδή ο στόχος του είναι να αντιστοιχίσει τις εισόδους στη σωστή κατηγορία. Στην Python, αυτές οι κατηγορίες μπορεί να είναι αποθηκευμένες ως strings, ως κατηγορικές τιμές ή ακόμη και ως αριθμοί, αλλά κάθε τιμή αναπαριστά μια διαφορετική ομάδα ή κατηγορία. Τα προβλήματα ταξινόμησης μπορεί να είναι:

    • Δυαδική ταξινόμηση: Όταν υπάρχουν μόνο δύο κατηγορίες, όπως η πρόβλεψη του αν ένας πελάτης θα ανανεώσει ένα συμβόλαιο ή όχι.

    • Πολυκατηγορική ταξινόμηση (multi-class classification): Όταν υπάρχουν περισσότερες από δύο κατηγορίες. Για παράδειγμα, η πρόβλεψη του αν ένας πελάτης θα συνεχίσει με το ίδιο συμβόλαιο, θα αλλάξει συμβόλαιο ή θα το ακυρώσει εντελώς.

Στην ταξινόμηση, τα μοντέλα μπορούν να δίνουν ως αποτέλεσμα είτε μια διακριτή ετικέτα κατηγορίας (π.χ. «renew» ή «cancel») είτε μια πιθανότητα που αντιπροσωπεύει την πιθανότητα να ανήκει η παρατήρηση σε μια συγκεκριμένη κατηγορία. Όταν προβλέπονται πιθανότητες, το πρόβλημα μοιάζει με παλινδρόμηση, αλλά περιορισμένη μεταξύ 0 και 1.

Μη επιβλεπόμενη μάθηση

Η μη επιβλεπόμενη μάθηση περιλαμβάνει κυρίως τρεις σημαντικές εργασίες:

  • Ομαδοποίηση (clustering): Ομαδοποίηση των παρατηρήσεων σε κατηγορίες με βάση την ομοιότητα. Χρησιμοποιώντας το παράδειγμα της ψηφιακής εταιρείας, οι πελάτες μπορούν να ομαδοποιηθούν σε clusters όπως «Πιστοί πελάτες», «Απλοί επισκέπτες» ή «Περιστασιακοί αγοραστές» με βάση τα μοτίβα στα δεδομένα τους, χωρίς προκαθορισμένες ετικέτες.

  • Μείωση διαστάσεων (dimensionality reduction): Απλοποίηση των συνόλων δεδομένων με τη μείωση του αριθμού των μεταβλητών, διατηρώντας παράλληλα τη σημαντική πληροφορία. Για παράδειγμα, αν ένα σύνολο δεδομένων περιλαμβάνει τόσο το βάρος όσο και τον Δείκτη Μάζας Σώματος (ΔΜΣ) των ασθενών, αυτά τα δύο συσχετιζόμενα χαρακτηριστικά μπορούν να συνδυαστούν ή να μειωθούν σε λιγότερα χαρακτηριστικά με μη επιβλεπόμενες μεθόδους. Επειδή ο ΔΜΣ προκύπτει από το βάρος και το ύψος, η διατήρηση τόσο του βάρους όσο και του ΔΜΣ ξεχωριστά μπορεί να είναι περιττή. Οι τεχνικές μείωσης διαστάσεων βοηθούν στον συνδυασμό ή στη σύνοψη τέτοιων συσχετιζόμενων μεταβλητών, βελτιώνοντας την αποδοτικότητα και την ερμηνευσιμότητα του μοντέλου.

  • Αναγνώριση προτύπων (pattern recognition): Ο εντοπισμός επαναλαμβανόμενων μοτίβων ή δομών μέσα στα δεδομένα, που χρησιμοποιείται συχνά στην επεξεργασία εικόνας, στην αναγνώριση ομιλίας και στη βιοπληροφορική. Επικαλύπτεται με την ομαδοποίηση, αλλά δίνει έμφαση στην αναγνώριση σημαντικών κανονικοτήτων ή χαρακτηριστικών μέσα στα δεδομένα χωρίς επισημασμένους στόχους.

Άλλοι τύποι μηχανικής μάθησης

Πέρα από τους βασικούς τύπους μηχανικής μάθησης, υπάρχουν αρκετές εξειδικευμένες προσεγγίσεις για την αντιμετώπιση διαφορετικών προκλήσεων ή για την καλύτερη αξιοποίηση των διαθέσιμων δεδομένων:

Ημι-επιβλεπόμενη μάθηση (semi-supervised learning): Αυτή η προσέγγιση χρησιμοποιεί μια μικρή ποσότητα επισημασμένων δεδομένων μαζί με μια μεγάλη ποσότητα μη επισημασμένων δεδομένων. Το μοντέλο μαθαίνει από τα επισημασμένα παραδείγματα, αλλά προσπαθεί επίσης να βρει μοτίβα στα μη επισημασμένα δεδομένα για να βελτιώσει την κατανόησή του (Zhu & Goldberg, 2009). Για παράδειγμα, ας φανταστούμε ότι έχουμε χιλιάδες φωτογραφίες, αλλά μόνο λίγες έχουν την ετικέτα «γάτα» ή «σκύλος». Η επισήμανση κάθε φωτογραφίας είναι ακριβή και χρονοβόρα. Η ημι-επιβλεπόμενη μάθηση βοηθά χρησιμοποιώντας αυτές τις λίγες επισημασμένες εικόνες για να καθοδηγήσει τη μάθηση και στη συνέχεια να «μαντέψει» τις ετικέτες για τις πολλές μη επισημασμένες εικόνες. Αυτό μπορεί να αυξήσει σημαντικά το accuracy σε σύγκριση με τη χρήση μόνο του μικρού επισημασμένου συνόλου.

Αυτο-επιβλεπόμενη μάθηση (self-supervised learning): Η αυτο-επιβλεπόμενη μάθηση επιτρέπει στο μοντέλο να δημιουργεί τα δικά του σήματα εκπαίδευσης από τα δεδομένα χωρίς να χρειάζεται χειροκίνητες ετικέτες (LeCun & Misra, 2021). Για παράδειγμα, στην επεξεργασία φυσικής γλώσσας, ένα μοντέλο μπορεί να εκπαιδευτεί ώστε να προβλέπει μια λέξη που λείπει από μια πρόταση. Κάνοντάς το αυτό επανειλημμένα σε εκατομμύρια προτάσεις, το μοντέλο μαθαίνει τη δομή και το νόημα της γλώσσας. Στην υπολογιστική όραση, το μοντέλο θα μπορούσε να μάθει να προβλέπει τμήματα μιας εικόνας από άλλα τμήματά της. Αυτή η προσέγγιση επιτρέπει την εκπαίδευση σε τεράστιους όγκους ακατέργαστων δεδομένων, καθιστώντας την πολύ ισχυρή για εργασίες όπου τα επισημασμένα δεδομένα είναι σπάνια ή ακριβά.

Μετα-μάθηση (μαθαίνοντας να μαθαίνουμε) (meta-learning): Η μετα-μάθηση εστιάζει στην εκπαίδευση μοντέλων που μπορούν να προσαρμόζονται γρήγορα σε νέες εργασίες χρησιμοποιώντας πολύ λίγα δεδομένα (Finn, Abbeel, & Levine, 2017). Μπορούμε να τη σκεφτούμε ως τη διδασκαλία ενός μοντέλου για το πώς να μαθαίνει αποτελεσματικά. Για παράδειγμα, ας υποθέσουμε ότι θέλετε ένα μοντέλο να αναγνωρίζει διαφορετικά είδη πουλιών. Αντί να εκπαιδεύετε ένα νέο μοντέλο από την αρχή κάθε φορά που θέλετε να αναγνωρίσει ένα νέο είδος πουλιού, ένα μοντέλο μετα-μάθησης έχει ήδη μάθει γενικά μοτίβα για τα πουλιά. Με λίγες μόνο νέες εικόνες, μπορεί να προσαρμοστεί γρήγορα και να αναγνωρίσει σωστά το νέο είδος. Αυτό είναι ιδιαίτερα χρήσιμο σε περιπτώσεις όπου τα δεδομένα για νέες εργασίες είναι περιορισμένα.

Ενισχυτική μάθηση (reinforcement learning): Στην ενισχυτική μάθηση, ένας πράκτορας (agent) μαθαίνει αλληλεπιδρώντας με το περιβάλλον του και λαμβάνοντας ανατροφοδότηση με τη μορφή ανταμοιβών ή ποινών (Sutton & Barto, 2018). Σε αντίθεση με την επιβλεπόμενη μάθηση, ο πράκτορας δεν λαμβάνει ρητές απαντήσεις, αλλά πρέπει να βρει τις καλύτερες ενέργειες μέσω δοκιμής και λάθους. Για παράδειγμα, ένα ρομπότ που μαθαίνει να περπατά μπορεί να λαμβάνει μια θετική ανταμοιβή κάθε φορά που κάνει ένα επιτυχημένο βήμα και μια ποινή όταν πέφτει. Με τον καιρό, δοκιμάζοντας διαφορετικές κινήσεις, ανακαλύπτει την καλύτερη στρατηγική βαδίσματος. Αυτή η προσέγγιση χρησιμοποιείται ευρέως στη ρομποτική, στα αυτόνομα οχήματα και σε συστήματα τεχνητής νοημοσύνης για παιχνίδια, όπως το AlphaGo.

Ανταγωνιστική μάθηση (adversarial learning): Η ανταγωνιστική μάθηση περιλαμβάνει την εκπαίδευση δύο μοντέλων που ανταγωνίζονται μεταξύ τους, ωθώντας το ένα το άλλο να βελτιωθεί. Ένα γνωστό παράδειγμα είναι τα Παραγωγικά Ανταγωνιστικά Δίκτυα (Generative Adversarial Networks) (Goodfellow, Bengio, & Courville, 2016). Το ένα μοντέλο, ο γεννήτορας (generator), προσπαθεί να δημιουργήσει ψεύτικα δεδομένα (όπως εικόνες ανθρώπων που δεν υπάρχουν), ενώ το άλλο, ο διευκρινιστής (discriminator), προσπαθεί να ξεχωρίσει τα πραγματικά δεδομένα από τα ψεύτικα. Ο γεννήτορας βελτιώνεται μαθαίνοντας να ξεγελά τον διευκρινιστή, και ο διευκρινιστής βελτιώνεται γινόμενος καλύτερος στο να εντοπίζει τα ψεύτικα. Αυτή η αμφίδρομη διαδικασία οδηγεί σε πολύ ρεαλιστική παραγωγή δεδομένων και έχει εφαρμογές στην τέχνη, στη βελτίωση εικόνας και στην επαύξηση δεδομένων.

Τύποι μοντέλων

Στη μηχανική μάθηση, τα μοντέλα είναι τα βασικά εργαλεία που χρησιμοποιούμε για να εξαγάγουμε μοτίβα, σχέσεις και σήματα από τα δεδομένα. Η κατανόηση των διαφορετικών τύπων μοντέλων βοηθά να αποσαφηνιστεί τι προσπαθεί να επιτύχει ένα μοντέλο και καθοδηγεί τόσο την επιλογή του αλγορίθμου όσο και τα κριτήρια αξιολόγησης. Σε γενικές γραμμές, τα μοντέλα μπορούν να κατηγοριοποιηθούν σε τρεις τύπους: περιγραφικά, επαγωγικά και προβλεπτικά (Kuhn & Silge, 2022). Αυτές οι κατηγορίες δεν αφορούν αποκλειστικά τη μηχανική μάθηση, καθώς προέρχονται από ευρύτερες παραδόσεις ανάλυσης δεδομένων, αλλά παραμένουν ιδιαίτερα σχετικές, ειδικά στο πλαίσιο της επιβλεπόμενης μάθησης, όπου έχουμε μια σαφώς ορισμένη μεταβλητή-στόχο. Ενώ η επιβλεπόμενη μάθηση περιλαμβάνει συνήθως προβλεπτικούς ή επαγωγικούς στόχους (π.χ. την πρόβλεψη ενός αποτελέσματος ή την εκτίμηση επιδράσεων), τα περιγραφικά μοντέλα χρησιμοποιούνται συχνά στη μη επιβλεπόμενη μάθηση, όπου δεν υπάρχει διαθέσιμη μεταβλητή αποτελέσματος και ο σκοπός είναι η διερεύνηση της δομής των δεδομένων.

Τα περιγραφικά μοντέλα (descriptive models) έχουν ως στόχο να συνοψίσουν ή να περιγράψουν τα κύρια χαρακτηριστικά ενός συνόλου δεδομένων. Ο πρωταρχικός τους σκοπός είναι να αναδείξουν τάσεις, μοτίβα ή ιδιαιτερότητες μέσα στα δεδομένα, χωρίς απαραίτητα να κάνουν προβλέψεις για μελλοντικές παρατηρήσεις. Για παράδειγμα, ένας αλγόριθμος ομαδοποίησης που ομαδοποιεί τους πελάτες με βάση την αγοραστική τους συμπεριφορά παρέχει περιγραφικές πληροφορίες που βοηθούν στην κατανόηση της υποκείμενης δομής των δεδομένων. Τεχνικές όπως το LOESS (βλ. Κεφάλαιο Παλινδρόμηση LOESS) χρησιμοποιούνται συχνά περιγραφικά για τη διερεύνηση σχέσεων στα δεδομένα, επειδή αποκαλύπτουν τοπικές τάσεις χωρίς να υποθέτουν μια καθολική συναρτησιακή μορφή.

Τα επαγωγικά μοντέλα (inferential models) εστιάζουν στον έλεγχο υποθέσεων και στην εξαγωγή συμπερασμάτων για έναν πληθυσμό με βάση δεδομένα δείγματος. Αυτά τα μοντέλα περιλαμβάνουν συχνά υποθέσεις σχετικά με τη διαδικασία παραγωγής των δεδομένων, και η εγκυρότητα των αποτελεσμάτων τους εξαρτάται σε μεγάλο βαθμό από το πόσο καλά ισχύουν αυτές οι υποθέσεις. Τα παραδοσιακά στατιστικά μοντέλα, όπως η γραμμική παλινδρόμηση που χρησιμοποιείται για να ελεγχθεί αν ένας συγκεκριμένος παράγοντας επηρεάζει σημαντικά ένα αποτέλεσμα, είναι επαγωγικά. Εδώ, η ερμηνευσιμότητα και η δυνατότητα κατανόησης της επίδρασης συγκεκριμένων μεταβλητών είναι κρίσιμες, και η επαγωγική στατιστική παρέχει διαστήματα εμπιστοσύνης και ελέγχους σημαντικότητας για την αξιολόγηση αυτών των επιδράσεων.

Τα προβλεπτικά μοντέλα (predictive models) έχουν σχεδιαστεί για να παράγουν τις ακριβέστερες δυνατές προβλέψεις σε νέα δεδομένα, που δεν έχουν δει ακόμη (Kuhn & Silge, 2022· Hastie, Tibshirani, & Friedman, 2009). Η επιτυχία τους μετριέται από το πόσο καλά γενικεύουν πέρα από τα παραδείγματα εκπαίδευσης (training sets). Η προβλεπτική μοντελοποίηση μπορεί να χρησιμοποιήσει είτε μηχανιστικά μοντέλα (mechanistic models), τα οποία βασίζονται σε γνωστές θεωρητικές σχέσεις (όπως τα μοντέλα που βασίζονται στη φυσική), είτε εμπειρικά μοντέλα (empirically driven models), τα οποία βασίζονται στα παρατηρούμενα δεδομένα για να αποκαλύψουν μοτίβα χωρίς απαραίτητα να κατανοούν τον υποκείμενο μηχανισμό. Αλγόριθμοι μηχανικής μάθησης όπως τα τυχαία δάση (random forests), τα οποία εξετάζουμε σε επόμενα κεφάλαια, είναι παραδείγματα εμπειρικών προβλεπτικών μοντέλων.

Σε αυτό το σημείο, είναι σημαντικό να τονίσουμε τη διαφορά μεταξύ ενός μοντέλου και μιας μεθόδου μηχανικής μάθησης. Ένα μοντέλο είναι η εννοιολογική ή μαθηματική δομή που αναπαριστά τα μοτίβα των δεδομένων, ενώ μια μέθοδος μηχανικής μάθησης είναι η διαδικασία ή ο αλγόριθμος που χρησιμοποιείται για την εκτίμηση ή την προσαρμογή του μοντέλου στα δεδομένα. Για παράδειγμα, ένα μοντέλο γραμμικής παλινδρόμησης μπορεί να προσαρμοστεί με διάφορες μεθόδους: με τη μέθοδο των ελαχίστων τετραγώνων, με την κάθοδο κλίσης (gradient descent) ή με τεχνικές ανθεκτικής παλινδρόμησης· ωστόσο, η μαθηματική εξίσωση (η μαθηματική δομή) θα παρέμενε η ίδια.

Είναι ενδιαφέρον ότι ο ίδιος τύπος μοντέλου μπορεί να εξυπηρετεί πολλούς σκοπούς, ανάλογα με την πρόθεση του αναλυτή. Για παράδειγμα, ένα μοντέλο γραμμικής παλινδρόμησης μπορεί να είναι περιγραφικό όταν χρησιμοποιείται για τη σύνοψη των τάσεων των δεδομένων, επαγωγικό όταν ελέγχονται υποθέσεις για τους συντελεστές ή προβλεπτικό όταν η εστίαση βρίσκεται στην πρόβλεψη αποτελεσμάτων.

Το μοντέλο στην ορολογία της μηχανικής μάθησης

Ένα μοντέλο που χρησιμοποιείται στη μηχανική μάθηση ονομάζεται συχνά μοντέλο μηχανικής μάθησης (machine learning model), επειδή δημιουργείται από έναν αλγόριθμο μάθησης ώστε να αναπαριστά τα μοτίβα στα δεδομένα.

Θεμελιώδεις έννοιες της μηχανικής μάθησης

Τώρα που συζητήσαμε τη διαδικασία και τους τύπους της μηχανικής μάθησης, είναι σημαντικό να έχουμε υπόψη μας ορισμένες θεμελιώδεις έννοιες. Αυτές οι έννοιες είναι ιδιαίτερα πολύτιμες, καθώς αποτελούν τον ακρογωνιαίο λίθο για την κατανόηση και την εφαρμογή αποτελεσματικών αλγορίθμων σε διάφορα πεδία.

Η αντιστάθμιση μεροληψίας–variance

Η αντιστάθμιση μεροληψίας–variance (bias-variance trade-off) είναι ίσως η πιο δημοφιλής και σημαντική έννοια στη μηχανική μάθηση. Ας υποθέσουμε ότι θέλουμε να δημιουργήσουμε ένα μοντέλο για να προβλέψουμε τα έσοδα μιας νέας ταινίας από τις αίθουσες. Για να το πετύχουμε, έχουμε τη δυνατότητα να χρησιμοποιήσουμε διαφορετικές προβλεπτικές μεταβλητές, όπως ο προϋπολογισμός της ταινίας, το είδος της ή ακόμη και οι κριτικές για τα τρέιλερ της ταινίας. Καθώς εκπαιδεύουμε ένα μοντέλο, όμως, θέλουμε να αποτυπώσουμε τα μοτίβα στα δεδομένα και όχι τον θόρυβο. Μπορούμε να πούμε ότι ο θόρυβος (noise) είναι κάτι μη προβλέψιμο, ενώ το μοτίβο είναι κάτι προβλέψιμο, το οποίο ελπίζουμε ότι το μοντέλο μας θα αποτυπώσει, ώστε να το χρησιμοποιήσει για να παράγει ακριβή αποτελέσματα. Έτσι, κάθε σύνολο δεδομένων αποτελείται από μοτίβα, στα οποία θέλουμε να δώσει προσοχή το μοντέλο μας, και από θόρυβο, τον οποίο θέλουμε το μοντέλο μας να αποφύγει.

Από τη μία πλευρά, θα μπορούσαμε απλώς να αγνοήσουμε κάθε προβλεπτική μεταβλητή και να πούμε ότι θα εξετάσουμε μόνο τα έσοδα ενός τυχαίου δείγματος ταινιών, θα υπολογίσουμε το mean και θα χρησιμοποιήσουμε αυτό το mean ως πρόβλεψη για τα έσοδα κάθε νέας ταινίας. Ως αποτέλεσμα, θα είχαμε ένα πολύ απλό μοντέλο (απλώς τον μέσο όρο), ένα μοντέλο από το οποίο θα περιμέναμε να μην αποδίδει καλά, αφού η πρόβλεψή του θα απέκλινε πιθανότατα πολύ από τα πραγματικά έσοδα οποιασδήποτε ταινίας. Σε αυτή την περίπτωση, θα λέγαμε ότι έχουμε υψηλή μεροληψία (high bias), επειδή η πραγματική τιμή θα διέφερε πολύ από την πρόβλεψή μας:

\[\text{Bias} = \text{Revenues}_{\text{true}} - \text{Revenues}_{\text{mean}}\]

Αυτή η έννοια της μεροληψίας είναι η ίδια με εκείνη που συζητήσαμε στο Κεφάλαιο Συσχέτιση και απλή γραμμική παλινδρόμηση: αναπαριστά την απόκλιση μεταξύ της πραγματικής τιμής και της εκτιμώμενης τιμής.

Το καλό με αυτό το μοντέλο, ωστόσο, είναι ότι αν πάρουμε ένα διαφορετικό τυχαίο δείγμα ταινιών και υπολογίσουμε ξανά τον μέσο όρο, θα περιμέναμε η πρόβλεψή μας να είναι λίγο πολύ η ίδια, κάτι που υποδηλώνει ότι, τουλάχιστον, θα υπήρχε κάποια συνέπεια στις προβλέψεις μας. Ως αποτέλεσμα, θα μπορούσαμε να υποστηρίξουμε ότι οι προβλέψεις μας θα είχαν χαμηλό variance (low variance), δηλαδή ότι η διαφορά μεταξύ της πραγματικής τιμής και της πρόβλεψής μας είναι σταθερή.

Από την άλλη πλευρά, ας υποθέσουμε ότι εξετάζουμε ένα πολύ μεγάλο σύνολο δεδομένων, χρησιμοποιούμε πολλές διαφορετικές προβλεπτικές μεταβλητές και μια πολύ προηγμένη μεθοδολογία μηχανικής μάθησης για να δημιουργήσουμε ένα πραγματικά σύνθετο μοντέλο. Σε αυτή την περίπτωση, θα περιμέναμε η πρόβλεψή μας να είναι πολύ κοντά στην πραγματική τιμή, δηλαδή η μεροληψία να είναι πολύ χαμηλή. Ωστόσο, ένα πολύ σύνθετο μοντέλο σημαίνει ότι τα περισσότερα μοτίβα αλλά και ο θόρυβος έχουν αποτυπωθεί από το μοντέλο. Με άλλα λόγια, το μοντέλο μας μπορεί να αντιμετωπίζει πολύ σπάνιες περιπτώσεις (π.χ. ταινίες που λόγω πολύ ειδικών συνθηκών είχαν εξαιρετικά υψηλά ή χαμηλά έσοδα) ως κάτι συνηθισμένο. Αυτό θα σήμαινε ότι μια μικρή αλλαγή στο σύνολο δεδομένων (π.χ. η αφαίρεση τέτοιων ταινιών) θα οδηγούσε σε ένα διαφορετικό μοντέλο (με διαφορετικές εκτιμώμενες παραμέτρους), δηλαδή οι προβλέψεις μας δεν θα ήταν συνεπείς. Με άλλα λόγια, το μοντέλο μας θα είχε υψηλό variance (high variance).

Έτσι, το πρώτο, απλό μοντέλο θα υποπροσαρμοζόταν στα δεδομένα (underfit), δηλαδή δεν θα αποτύπωνε πολλά από τα μοτίβα τους, ενώ το δεύτερο θα υπερπροσαρμοζόταν στα δεδομένα (overfit), δηλαδή το μοντέλο θα αποτύπωνε τα μοτίβα υπερβολικά καλά· με άλλα λόγια, θα αντιμετώπιζε σχεδόν τα πάντα ως δομή που θα επαναληφθεί σε μελλοντικές περιπτώσεις, κάτι που δεν είναι απαραίτητα σωστό. Ως αποτέλεσμα, οι προβλέψεις ενός απλού μοντέλου έχουν υψηλή μεροληψία (αποκλίνουν πολύ από τις πραγματικές τιμές), αλλά τουλάχιστον είναι συνεπείς (χαμηλό variance), ενώ οι προβλέψεις ενός σύνθετου μοντέλου έχουν χαμηλή μεροληψία (αποκλίνουν λιγότερο ή και ελάχιστα από τις πραγματικές τιμές), αλλά δεν είναι συνεπείς (υψηλό variance).

Την αντιστάθμιση μεροληψίας–variance πρέπει να την έχουμε πάντα κατά νου: η αύξηση της πολυπλοκότητας του μοντέλου μπορεί να μειώσει τη μεροληψία, αλλά συχνά αυξάνει το variance, οπότε υπάρχει μια αντιστάθμιση μεταξύ ακρίβειας και σταθερότητας που πρέπει να λαμβάνουμε υπόψη όταν δημιουργούμε μοντέλα μηχανικής μάθησης (Hastie et al., 2009). Επιπλέον, αν και τα σύνθετα μοντέλα έχουν συνήθως χαμηλότερη μεροληψία από τα απλά, μπορεί να υπάρξουν περιπτώσεις στις οποίες τα απλά μοντέλα αποδίδουν καλύτερα από τα σύνθετα, έχοντας παράλληλα χαμηλότερο variance.

Το θεώρημα «No Free Lunch»

Μια παρόμοια, αλλά πολύ διαφορετική, έννοια είναι εκείνη του θεωρήματος «No Free Lunch» (No Free Lunch Theorem, κατά λέξη «δεν υπάρχει δωρεάν γεύμα»). Αυτό το θεώρημα ορίζει ότι δεν υπάρχει αλγόριθμος που να λειτουργεί καλύτερα για κάθε πρόβλημα. Με άλλα λόγια, δεν υπάρχει καθολική λύση ή «δωρεάν γεύμα», με την έννοια ότι ένας αλγόριθμος θα αποδίδει πάντα καλύτερα από τους άλλους σε όλα τα πιθανά σύνολα δεδομένων· σχεδόν όλα τα μοντέλα θα αποτυπώσουν κάποια μοτίβα στα δεδομένα, ανεξάρτητα από την τεχνική.

Αυτή η ιδέα συνεπάγεται ότι η αποτελεσματικότητα των διαφορετικών αλγορίθμων μηχανικής μάθησης εξαρτάται από τα ιδιαίτερα χαρακτηριστικά του εκάστοτε προβλήματος (Wolpert, 1996). Κατά συνέπεια, όταν εργαζόμαστε σε ένα πρόβλημα μηχανικής μάθησης, είναι σημαντικό να λαμβάνουμε υπόψη παράγοντες όπως η φύση των δεδομένων, η πολυπλοκότητα του προβλήματος και οι συγκεκριμένοι στόχοι που έχουμε, ώστε να επιλέξουμε τον καταλληλότερο αλγόριθμο ή συνδυασμό αλγορίθμων. Αυτός είναι επίσης ένας από τους λόγους για τους οποίους η διερευνητική ανάλυση δεδομένων είναι τόσο σημαντική πριν ξεκινήσουμε τη διαδικασία της προβλεπτικής μοντελοποίησης.

Η κατάρα της διαστασιμότητας

Η κατάρα της διαστασιμότητας (curse of dimensionality) αναφέρεται σε διάφορες προκλήσεις και φαινόμενα που προκύπτουν όταν εργαζόμαστε με δεδομένα υψηλών διαστάσεων στην ανάλυση δεδομένων και στη μηχανική μάθηση (Bellman, 1961). Το να έχουμε πολλές μεταβλητές (στήλες σε ένα DataFrame) δεν είναι πάντα η καλύτερη προσέγγιση, παρά τη συνήθη διαίσθηση ότι περισσότερα δεδομένα οδηγούν σε καλύτερα αποτελέσματα· περισσότερα δεδομένα δεν σημαίνουν απαραίτητα καλύτερα δεδομένα.

Καθώς αυξάνεται ο αριθμός των μεταβλητών (ή διαστάσεων) στο σύνολο δεδομένων, μπορεί να εμφανιστούν διάφορα προβλήματα, όπως:

  • Αυξημένη αραιότητα (sparsity): Σε χώρους υψηλών διαστάσεων, τα σημεία δεδομένων τείνουν να γίνονται πιο αραιά, δηλαδή υπάρχουν λιγότερα δεδομένα σε σχέση με τον συνολικό χώρο. Αυτό μπορεί να δυσκολέψει τον εντοπισμό ουσιαστικών μοτίβων ή σχέσεων στα δεδομένα.

  • Αυξημένη υπολογιστική πολυπλοκότητα: Πολλοί αλγόριθμοι γίνονται υπολογιστικά πιο απαιτητικοί καθώς αυξάνονται οι διαστάσεις των δεδομένων. Για παράδειγμα, αλγόριθμοι που βασίζονται σε αποστάσεις, όπως οι K πλησιέστεροι γείτονες (K-nearest neighbors· εξετάζουμε αυτή τη μέθοδο σε επόμενο κεφάλαιο), μπορεί να γίνουν λιγότερο αποδοτικοί, επειδή κάθε υπολογισμός απόστασης περιλαμβάνει περισσότερες μεταβλητές και η ποσότητα των δεδομένων που απαιτείται για να καλυφθεί ο χώρος αυξάνεται εκθετικά.

  • Υπερπροσαρμογή (overfitting): Με δεδομένα υψηλών διαστάσεων, υπάρχει κίνδυνος υπερπροσαρμογής, κατά την οποία ένα μοντέλο μαθαίνει να αποτυπώνει τον θόρυβο ή τις τυχαίες διακυμάνσεις στα δεδομένα αντί για τα πραγματικά υποκείμενα μοτίβα (Hastie et al., 2009). Είναι σημαντικό να θυμόμαστε εδώ ότι ο θόρυβος αναφέρεται στο μη προβλέψιμο μέρος των δεδομένων, το οποίο μπορεί να παραπλανήσει ένα μοντέλο. Η υπερπροσαρμογή, όπως συζητήθηκε παραπάνω, σημαίνει ότι το μοντέλο δίνει υπερβολική προσοχή στον θόρυβο, κάτι που βλάπτει την ικανότητά του να εξάγει γενικεύσιμα συμπεράσματα.

Συνολικά, η κατάρα της διαστασιμότητας αναδεικνύει τη σημασία της προσεκτικής επιλογής και του μετασχηματισμού των μεταβλητών, καθώς και της χρήσης τεχνικών μείωσης διαστάσεων για τον περιορισμό των προκλήσεων που σχετίζονται με τα δεδομένα υψηλών διαστάσεων στις εργασίες μηχανικής μάθησης.

Η αρχή της φειδωλότητας

Γενικά, τα πιο σύνθετα μοντέλα τείνουν να προσφέρουν καλύτερη απόδοση. Ωστόσο, λόγω της πολυπλοκότητάς τους, τα μοντέλα αυτά θεωρούνται συχνά μοντέλα «μαύρα κουτιά», δηλαδή τα μοτίβα που αποτυπώνουν είναι δύσκολο να κατανοηθούν και να ερμηνευθούν. Αυτό δημιουργεί μια αντιστάθμιση μεταξύ της πολυπλοκότητας και της ερμηνευσιμότητας του μοντέλου. Παρ’ όλα αυτά, υπάρχουν περιπτώσεις όπου απλούστερα μοντέλα μπορούν να αποδώσουν εξίσου καλά ή ακόμη και καλύτερα από πιο σύνθετα, με μόνο μια μικρή διαφορά στο accuracy.

Για παράδειγμα, ένα πολύ σύνθετο μοντέλο, με πολλά πολυώνυμα και αλληλεπιδράσεις, μπορεί να πετύχει accuracy 86% σε ένα test set, ενώ ένα πολύ απλούστερο μοντέλο μπορεί να φτάσει το 84%. Παρόλο που το σύνθετο μοντέλο δείχνει ελαφρώς υψηλότερο accuracy, η διαφορά μπορεί να μην είναι πρακτικά σημαντική (το αν αυτές οι 2 ποσοστιαίες μονάδες θεωρούνται σημαντικές ή όχι εξαρτάται από την περίπτωση). Το βασικό συμπέρασμα εδώ είναι η αρχή της φειδωλότητας (principle of parsimony) ή το «ξυράφι του Ockham» (Ockham’s Razor): όταν δύο μοντέλα έχουν παρόμοια απόδοση, είναι συχνά προτιμότερο να επιλέγουμε το απλούστερο.

Η μηχανική μάθηση στην πράξη

Ενώ τα θεωρητικά θεμέλια της μηχανικής μάθησης είναι απαραίτητα, είναι στις πρακτικές εφαρμογές που η διαδικασία ζωντανεύει πραγματικά. Σε γενικές γραμμές, τα περισσότερα έργα μηχανικής μάθησης περνούν από ένα σύνολο σταδίων, από την κατανόηση των δεδομένων έως τη βελτίωση του μοντέλου, με απώτερο στόχο τη δημιουργία συστημάτων που αποδίδουν αξιόπιστα σε νέα δεδομένα, που δεν έχουν δει ακόμη. Αν και τα στάδια αυτά παρουσιάζονται παρακάτω με σειρά για λόγους σαφήνειας, στην πράξη η διαδικασία σπάνια ακολουθεί μια ευθεία, γραμμική πορεία. Αντίθετα, η μηχανική μάθηση περιλαμβάνει συνήθως μια σειρά επαναληπτικών και αλληλοεξαρτώμενων βημάτων, όπου οι πληροφορίες από τα μεταγενέστερα στάδια συχνά μας οδηγούν να επανεξετάσουμε προηγούμενα (Lantz, 2023).

1. Συλλογή δεδομένων: Κάθε έργο μηχανικής μάθησης ξεκινά με δεδομένα. Η συνάφεια, η ποιότητα και η ποσότητα των δεδομένων που συλλέγετε θέτουν τις βάσεις για όλα όσα ακολουθούν. Ανάλογα με το πρόβλημα, τα δεδομένα μπορεί να προέρχονται από αισθητήρες, έρευνες, αρχεία καταγραφής συναλλαγών, APIs, web scraping ή άλλες ψηφιακές πηγές. Χωρίς ουσιαστικά δεδομένα, δεν υπάρχει θεμέλιο για μάθηση.

2. Εισαγωγή και διερεύνηση δεδομένων: Αφού συλλεχθούν τα δεδομένα, πρέπει να εισαχθούν και να διερευνηθούν. Αυτή η φάση περιλαμβάνει διερευνητική ανάλυση δεδομένων, ώστε να αποκτήσουμε τόσο διαισθητική όσο και στατιστική κατανόηση της δομής των δεδομένων. Εξετάζουμε την κατανομή των μεταβλητών, ελέγχουμε για ελλείπουσες ή ασυνεπείς τιμές και διερευνούμε τις σχέσεις μεταξύ αυτών των μεταβλητών. Σε αυτό το στάδιο, αρχίζουμε επίσης να ορίζουμε πιο συγκεκριμένα τον στόχο της μοντελοποίησης. Για παράδειγμα, προσπαθούμε να προβλέψουμε τα συνολικά έσοδα ή το αν τα έσοδα ξεπερνούν ένα συγκεκριμένο όριο; Αυτή η σαφήνεια βοηθά στην καθοδήγηση των μελλοντικών επιλογών μοντελοποίησης.

3. Καθαρισμός και προεπεξεργασία δεδομένων: Τα ακατέργαστα δεδομένα σπάνια είναι έτοιμα για μοντελοποίηση. Ο καθαρισμός δεδομένων αντιμετωπίζει προβλήματα όπως οι ελλείπουσες τιμές, οι λανθασμένοι τύποι δεδομένων ή τα outliers. Η προεπεξεργασία (preprocessing) μπορεί να περιλαμβάνει το normalization των αριθμητικών μεταβλητών ή την αφαίρεση περιττών χαρακτηριστικών. Ο στόχος είναι να γίνουν τα δεδομένα κατάλληλα για χρήση.

4. Feature engineering: Το feature engineering (δημιουργία χαρακτηριστικών) είναι η διαδικασία δημιουργίας ή μετασχηματισμού μεταβλητών ώστε να αναδειχθεί καλύτερα η υποκείμενη δομή των δεδομένων. Μερικές φορές τα αρχικά χαρακτηριστικά δεν επαρκούν για να αποτυπώσουν σημαντικές σχέσεις, οπότε μπορεί να υπολογίσουμε λόγους, να συνδυάσουμε μεταβλητές ή να χρησιμοποιήσουμε γνώση του αντικειμένου για να δημιουργήσουμε πιο κατατοπιστικές εισόδους. Το καλό feature engineering μπορεί να βελτιώσει δραματικά την απόδοση ενός μοντέλου (Kuhn & Johnson, 2013).

Προεπεξεργασία και feature engineering

Το όριο μεταξύ της προεπεξεργασίας δεδομένων και του feature engineering δεν είναι πάντα σαφές. Και στα δύο βήματα επεξεργαζόμαστε τα δεδομένα για έναν συγκεκριμένο σκοπό (καθαρισμό, μετασχηματισμό ή δημιουργία μεταβλητών), ώστε να γίνουν πιο χρήσιμα για το μοντέλο. Μερικές φορές η ίδια ενέργεια μπορεί να θεωρηθεί είτε προεπεξεργασία είτε feature engineering, ανάλογα με το πλαίσιο.

5. Εκπαίδευση του μοντέλου: Αυτό είναι το στάδιο όπου ο αλγόριθμος μηχανικής μάθησης μαθαίνει από τα δεδομένα. Ανάλογα με τον τύπο του μοντέλου, ο αλγόριθμος εκπαίδευσης χρησιμοποιεί τα χαρακτηριστικά εισόδου και τη μεταβλητή αποτελέσματος για να προσαρμόσει εσωτερικές παραμέτρους, ώστε το μοντέλο να μπορεί να αναπαραστήσει χρήσιμα μοτίβα. Αυτές οι εσωτερικές παράμετροι μπορούν να θεωρηθούν ως ρυθμίσεις, και διαφορετικές ρυθμίσεις μπορούν να οδηγήσουν σε πολύ διαφορετική συμπεριφορά του μοντέλου, ακόμη κι αν η δομή του μοντέλου παραμένει η ίδια. Το σύνολο δεδομένων που χρησιμοποιείται αποκλειστικά για να «διδάξει» το μοντέλο ονομάζεται training set (σύνολο εκπαίδευσης).

Οι παράμετροι στη μηχανική μάθηση και στη στατιστική

Ο όρος παράμετρος στη μηχανική μάθηση είναι παρόμοιος με εκείνον της παραδοσιακής στατιστικής. Στη στατιστική, μια παράμετρος αναφέρεται συνήθως σε ένα μέγεθος που προκύπτει από έναν πληθυσμό, ενώ στη μηχανική μάθηση μια παράμετρος δηλώνει μια εσωτερική ρύθμιση του αλγορίθμου, η οποία προσαρμόζεται κατά την εκπαίδευση ώστε να αποτυπώνει μοτίβα στα δεδομένα. Αυτές οι εσωτερικές παράμετροι καθορίζουν τη συμπεριφορά του μοντέλου και το πώς αντιστοιχίζει τις εισόδους στις εξόδους.

Η κλίση ενός μοντέλου απλής παλινδρόμησης είναι μια τέτοια παράμετρος. Από στατιστική σκοπιά, θεωρούμε την κλίση ως μια σταθερή αλλά άγνωστη «πραγματική» τιμή, την οποία προσπαθούμε να εκτιμήσουμε από δεδομένα δείγματος. Στη μηχανική μάθηση, όμως, δεν εστιάζουμε σε μία πραγματική παράμετρο· αντίθετα, θεωρούμε την παράμετρο ως κάτι που ο αλγόριθμος μαθαίνει από τα δεδομένα για να ελαχιστοποιήσει το σφάλμα ή να μεγιστοποιήσει την προβλεπτική απόδοση, χωρίς να υποθέτουμε ότι αναπαριστά μια υποκείμενη σταθερή τιμή του πληθυσμού.

6. Αξιολόγηση του μοντέλου: Μετά την εκπαίδευση, το μοντέλο ελέγχεται σε ένα ξεχωριστό υποσύνολο των δεδομένων, που συνήθως ονομάζεται test set (σύνολο ελέγχου), για να αξιολογηθεί πόσο καλά αποδίδει σε νέες περιπτώσεις, που δεν έχει δει ακόμη. Η απόδοση μπορεί να αξιολογηθεί με διαφορετικές μετρικές, ανάλογα με το πρόβλημα (εξετάζουμε αυτές τις μετρικές σε επόμενα κεφάλαια). Αυτή η αξιολόγηση βοηθά να διαπιστωθεί αν το μοντέλο υπερπροσαρμόζεται (γνωστό και ως «αποστήθιση») στο training set ή αν γενικεύει πραγματικά.

7. Ρύθμιση και επιλογή του μοντέλου: Τα περισσότερα μοντέλα μηχανικής μάθησης συνοδεύονται από υπερπαραμέτρους (hyperparameters), δηλαδή ρυθμίσεις που διέπουν την ίδια τη διαδικασία μάθησης. Αυτές διαφέρουν από τις παραμέτρους που μαθαίνει το μοντέλο κατά την εκπαίδευση. Οι παράμετροι (όπως η κλίση και ο σταθερός όρος στη γραμμική παλινδρόμηση) μαθαίνονται από τα δεδομένα εκπαίδευσης και καθορίζουν τη συμπεριφορά του μοντέλου. Οι υπερπαράμετροι, από την άλλη πλευρά, επιλέγονται πριν από την εκπαίδευση και επηρεάζουν τον τρόπο με τον οποίο μαθαίνει το μοντέλο (όπως το πόσο γρήγορα μαθαίνει ή το πόσο σύνθετο μπορεί να γίνει).

Η ρύθμιση (tuning) των υπερπαραμέτρων περιλαμβάνει τη συστηματική διερεύνηση διαφορετικών συνδυασμών υπερπαραμέτρων για να βρεθεί η διαμόρφωση που αποφέρει την καλύτερη απόδοση. Ο στόχος είναι να εξισορροπηθεί η ικανότητα του μοντέλου να αποτυπώνει μοτίβα (μείωση της μεροληψίας) με την αποφυγή της υπερπροσαρμογής (διατήρηση του variance υπό έλεγχο). Η σωστή ρύθμιση μπορεί να κάνει μεγάλη διαφορά: το ίδιο μοντέλο εκπαιδευμένο με κακές επιλογές υπερπαραμέτρων μπορεί να αποδώσει χειρότερα από ένα απλούστερο μοντέλο, ενώ οι σωστές υπερπαράμετροι μπορούν να αξιοποιήσουν πλήρως τις δυνατότητες ενός σύνθετου αλγορίθμου.

8. Βελτίωση και ανάπτυξη του μοντέλου: Ακόμη και όταν ένα μοντέλο αποδίδει καλά, υπάρχει συχνά περιθώριο βελτίωσης. Αυτό μπορεί να περιλαμβάνει τη συλλογή περισσότερων δεδομένων, τη δημιουργία καλύτερων χαρακτηριστικών ή την προσαρμογή των βημάτων προεπεξεργασίας. Τελικά, όταν ένα μοντέλο θεωρείται σταθερό, μπορεί να τεθεί σε λειτουργία (deployment) για τη λήψη αποφάσεων στον πραγματικό κόσμο, είτε πρόκειται για τη σύσταση ενός προϊόντος, είτε για την επισήμανση δόλιων συναλλαγών, είτε για την πρόβλεψη της ζήτησης. Μετά την ανάπτυξή του, η απόδοση του μοντέλου πρέπει να συνεχίσει να παρακολουθείται και να ενημερώνεται, όπως απαιτείται.

Όπως αναφέρθηκε παραπάνω, η πρακτική της μηχανικής μάθησης δεν είναι σταθερή ή αυστηρά διαδοχική (γραμμική). Στην πράξη, τα παραπάνω βήματα συχνά επικαλύπτονται και η διαδικασία είναι σε μεγάλο βαθμό επαναληπτική. Για παράδειγμα, κατά τη διερεύνηση των δεδομένων μπορεί να συνειδητοποιήσουμε ότι μας λείπουν κρίσιμες μεταβλητές, κάτι που μας οδηγεί πίσω στη φάση της συλλογής δεδομένων. Ομοίως, σφάλματα κατά την εκπαίδευση του μοντέλου μπορεί να αποκαλύψουν προβλήματα στην προεπεξεργασία που είχαν προηγουμένως παραβλεφθεί. Αυτή η κίνηση πέρα δώθε μεταξύ των σταδίων είναι φυσιολογική και αντανακλά την πραγματικότητα της εργασίας με σύνθετα, ατελή δεδομένα. Η διατήρηση της ευελιξίας είναι απαραίτητη, ώστε η ροή εργασίας να εξελίσσεται με βάση τις πληροφορίες που προκύπτουν κατά τη διερεύνηση των δεδομένων και την ανάπτυξη του μοντέλου.

Ανακεφαλαίωση

Σε αυτό το κεφάλαιο, παρουσιάσαμε τις βασικές έννοιες και τα θεμέλια της μηχανικής μάθησης. Συζητήσαμε τι είναι η μηχανική μάθηση, σε τι διαφέρει από τη στατιστική και την εξόρυξη δεδομένων, τους τύπους μάθησης (επιβλεπόμενη, μη επιβλεπόμενη και άλλους), τα είδη των μοντέλων που χρησιμοποιούμε, καθώς και βασικές ιδέες όπως η αντιστάθμιση μεροληψίας–variance, το θεώρημα «No Free Lunch», η κατάρα της διαστασιμότητας και η αρχή της φειδωλότητας. Εξετάσαμε επίσης την πρακτική ροή εργασίας των έργων μηχανικής μάθησης, από τη συλλογή και την προεπεξεργασία των δεδομένων έως την εκπαίδευση, την αξιολόγηση, τη ρύθμιση και την ανάπτυξη του μοντέλου.

Είναι φυσιολογικό αν κάποιο μέρος αυτού του υλικού φαίνεται αφηρημένο ή ασαφές την πρώτη φορά. Αυτές οι ιδέες θα γίνουν πολύ πιο συγκεκριμένες σε επόμενα κεφάλαια, όπου θα εξετάσουμε πρακτικές εφαρμογές. Η μηχανική μάθηση είναι ταυτόχρονα εννοιολογική και πρακτική, οπότε η κατανόησή της αναπτύσσεται μέσα από την εμπειρία, τον πειραματισμό και τον αναστοχασμό.