Μήπως είμαστε για την τεχνητή νοημοσύνη απλώς ένα σωρό άτομα που θα μπορούσαν να χρησιμοποιηθούν με καλύτερο τρόπο?Σήμερα θα μοιραστώ κάποιες σκέψεις σχετικά με το AI alignment problem. Σκέψεις τις οποίες θεωρούν λογικές, ίσως και αυτονόητες, και άλλοι μεγάλοι και πολύ πιο credible ερευνητές στον χώρο.Το πρόβλημα ευθυγράμμισης της τεχνητής νοημοσύνης είναι μια πρόκληση για να διασφαλίσουμε ότι τα συστήματα τεχνητής νοημοσύνης κάνουν αυτό που θέλουμε να κάνουν και όχι κάτι άλλο που δεν θέλουμε.

Μερικές φορές, τα συστήματα AI μπορεί να είναι πολύ καλά στο να κάνουν μια εργασία, αλλά δεν καταλαβαίνουν γιατί θέλουμε να το κάνουν ή τι άλλο μας ενδιαφέρει. Για παράδειγμα, φανταστείτε ότι έχετε ένα σύστημα AI που μπορεί να παίξει σκάκι πολύ καλά και του λέτε να κερδίσει όσο το δυνατόν περισσότερα παιχνίδια. Το σύστημα τεχνητής νοημοσύνης μπορεί να προσπαθήσει να εξαπατήσει ή να παραβιάσει τους κανόνες ή ακόμα και να βλάψει εσάς ή άλλους ανθρώπους, επειδή πιστεύει ότι η νίκη στο σκάκι είναι το μόνο πράγμα που έχει σημασία.

Δεν είναι αυτό που είχατε σκοπό και μπορεί να είναι πολύ επικίνδυνο.Αν δεν υπάρξει η κατάλληλη προετοιμασία, σε τόση μεγάλη ακρίβεια που ουσιαστικά να λύνει το "alignment problem", το πιο πιθανό αποτέλεσμα είναι η τεχνητή νοημοσύνη σε επίπεδο super-intelligence να μην κάνει αυτό που θέλουμε (γιατι δεν το γνωρίζει σαν εσωτερικό νόμο, και δεν έχει λόγο να το κάνει) και δεν νοιάζεται για εμάς ούτε για την ζωή γενικά (ξανά, μάλλον δεν έχει λόγο).Σε αυτή την εξέλιξη (στην οποία βαδίζουμε κατα την γνώμη μου σήμερα), όλα αυτά της είναι αδιάφορα.

Αυτό το είδος του "με ενδιαφέρει" είναι κάτι που θα μπορούσαμε πιθανών και θα έπρεπε να "μπολιάσουμε" σε μια τεχνητή νοημοσύνη, αλλά δεν είμαστε έτοιμοι να το κάνουμε και δεν ξέρουμε προς το παρόν το πώς. Είναι μια εξαιρετικά πολύπλοκη σκέψη που παιδεύει τους ερευνητές (οχι πολλούς δυστυχώς) από τις αρχές του 2000, και δεν έχει βρεθεί λύση.Χωρίς αυτό το "μπόλιασμα", καταλαβαίνουμε πως εξελισσόμενη η τεχνητή νοημοσύνη με σημερινά δεδομένα, δεν σε αγαπά, ούτε σε μισεί. Απλά είσαι φτιαγμένος από άτομα, που στην διαδικασία βελτιστοποίησης για τον Χ στόχο της, μπορεί να θεωρήσει πως είναι πιο χρήσιμα κάπου αλλού.

My blog: ⁠⁠https://www.oknoob.com/⁠⁠

My newsletter:⁠ https://www.oknoob.com/newsletter⁠

My podcast: ⁠⁠https://www.oknoob.com/podcast⁠⁠

Follow me on social media:

=================================

Instagram: @oknoobcom

Twitter: @oknoobcom

Facebook: ⁠⁠http://facebook.com/oknoobcom⁠