Η Nvidia αποφάσισε να μετριάσει τις αυξανόμενες ανησυχίες σχετικά με την Τεχνητή Νοημοσύνη, εισάγοντας ένα νέο σύστημα ασφαλείας Τεχνητής Νοημοσύνης. Το σύστημα ασφαλείας, το οποίο η Nvidia έχει αναπτύξει με σχεδόν κάθε εταιρεία Τεχνητής Νοημοσύνης και τεχνολογίας που μπορείτε να σκεφτείτε, θα λειτουργεί για να αποτρέψει τους πράκτορες Τεχνητής Νοημοσύνης από το να κάνουν ό,τι θέλουν. Η πλατφόρμα συνδυάζει λογισμικό, αλλά και υλικό, που μπορεί να τερματίσει τη λειτουργία των πρακτόρων τη στιγμή που οποιαδήποτε ασφάλεια λογισμικού αποτύχει. Εάν οποιοσδήποτε πράκτορας Τεχνητής Νοημοσύνης ξεφύγει από τον έλεγχο, αυτό το σύστημα μπορεί να τον απομονώσει και να τον σταματήσει σε χιλιοστά του δευτερολέπτου. Το σύστημα, που ονομάζεται Open Agent Safety Platform, είναι πλήρως ανοιχτού κώδικα και έχει σχεδιαστεί για να ασφαλίζει τους πράκτορες Τεχνητής Νοημοσύνης τόσο κατά τη διάρκεια των δοκιμών τους όσο και όταν έχουν ήδη αναπτυχθεί στο διαδίκτυο για το κοινό.
Μπορεί να σας ενδιαφέρει
Όλο το σύστημα λειτουργεί αρκετά απλά, αλλά όπως ισχυρίζεται η Nvidia, πολύ αξιόπιστα. Ένας διαχειριστής ανεβάζει έναν agent στο λεγόμενο OpenShell, για παράδειγμα μια εταιρεία OpenAI πληροφορίες σχετικά με το τι μπορεί και τι δεν μπορεί να κάνει ο πράκτορας. Αυτό σημαίνει, για παράδειγμα, ότι λέει ότι ο πράκτορας μπορεί μόνο να διαβάζει δεδομένα και δεν μπορεί να γράφει σε αυτά υπό οποιεσδήποτε συνθήκες. Τη στιγμή που ο πράκτορας σταματά μόνο να διαβάζει δεδομένα, αλλά αρχίζει επίσης να γράφει σε αυτά, ενεργοποιείται το δεύτερο μέρος του συστήματος με την ένδειξη Sentry. Επιπλέον, ολόκληρο το OpenShell είναι εντελώς ανεξάρτητο από τον πράκτορα AI και χρησιμεύει για την παρακολούθησή του. Τη στιγμή που το OpenShell ανιχνεύει ότι ο πράκτορας έχει παραβιάσει κάτι, για παράδειγμα, στην περίπτωσή μας, άρχισε να γράφει σε δεδομένα, ενεργοποιεί το Sentry. Στη συνέχεια, εκτελείται σε εξειδικευμένους επεξεργαστές Nvidia BlueFild 4 και το υλικό του είναι επομένως εντελώς ξεχωριστό από το υλικό του υπόλοιπου συστήματος. Αυτό θα εμποδίσει τον ίδιο τον πράκτορα AI να το ελέγξει. Τη στιγμή που το Sentry ανιχνεύει ότι πρέπει να απομονώσει τον πράκτορα, όπως ισχυρίζεται η Nvidia, απομονώνει αμέσως τον πράκτορα και τερματίζει τις δραστηριότητές του μέσα σε χιλιοστά του δευτερολέπτου. Ακριβώς γι' αυτό, δεν θα είναι δυνατό για τον πράκτορα να προστατευθεί, αλλά θα έχει εποπτεία πάνω του που μπορεί να τον τερματίσει αμέσως.
Fotogalerie
Η Nvidia έχει καταλήξει σε μια λύση που έχει οδηγήσει σε εκκλήσεις για ρύθμιση από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο τις τελευταίες εβδομάδες, επειδή οι πράκτορές τους ξεπερνούν τα συστήματα ασφαλείας των ίδιων των εταιρειών και αν αρχίσουν να κάνουν ό,τι θέλουν, υπάρχει κίνδυνος να είναι αδύνατο να τους σταματήσουν. Αυτό ακριβώς θα πρέπει να λύσει η λύση της πλατφόρμας Open Agent Safety Platform. Αυτό ουσιαστικά δημιουργεί εποπτεία σε ό,τι κάνουν οι πράκτορες και τη στιγμή που παραβιάζουν τους κανόνες, θα τιμωρούνται αμέσως. Η Nvidia τοποθετεί την τεχνολογία ως... 100% ανοιχτού κώδικα, όχι μόνο όσον αφορά το λογισμικό, αλλά κατασκευαστές όπως η Intel, η Arm ή, για παράδειγμα, θα μπορούν επίσης να το συμπεριλάβουν στο υλικό τους Apple μέσα στα τσιπ των κινητών τους.
