Μέχρι πρόσφατα, όταν χρησιμοποιούσαμε μια υπηρεσία τεχνητής νοημοσύνης, το μεγαλύτερο μέρος της πραγματικής επεξεργασίας γινόταν κάπου μακριά από εμάς. Η ερώτηση, η εικόνα ή το αρχείο μας ταξίδευε μέσω διαδικτύου σε ένα data center, όπου ισχυροί servers εκτελούσαν το μοντέλο AI και επέστρεφαν το αποτέλεσμα.
Αυτό όμως αρχίζει να αλλάζει. Μία από τις σημαντικότερες τάσεις της τεχνολογίας είναι το on-device AI: τεχνητή νοημοσύνη που μπορεί να λειτουργεί απευθείας μέσα στο smartphone, το laptop, το αυτοκίνητο ή κάποια άλλη προσωπική συσκευή.
Με μια ματιά
- Το on-device AI εκτελεί λειτουργίες τεχνητής νοημοσύνης τοπικά στη συσκευή.
- Μπορεί να λειτουργεί ακόμη και χωρίς συνεχή σύνδεση στο internet.
- Περιορίζει την ανάγκη αποστολής προσωπικών δεδομένων στο cloud.
- Τα νέα chips διαθέτουν ειδικούς επεξεργαστές NPU για εργασίες AI.
- Το μέλλον πιθανότατα θα είναι υβριδικό: συσκευή και cloud θα συνεργάζονται.
Τι ακριβώς είναι το on-device AI;
Η βασική ιδέα είναι απλή. Αντί κάθε εργασία τεχνητής νοημοσύνης να αποστέλλεται σε έναν απομακρυσμένο server, ένα κατάλληλα βελτιστοποιημένο μοντέλο μπορεί να εκτελεστεί από τον επεξεργαστή της ίδιας της συσκευής.
Τα σύγχρονα smartphones και laptops διαθέτουν πλέον εξειδικευμένες μονάδες επεξεργασίας, γνωστές ως NPU (Neural Processing Units), σχεδιασμένες ειδικά για υπολογισμούς τεχνητής νοημοσύνης.
Έτσι, εργασίες όπως η αναγνώριση φωνής, η μετάφραση, η επεξεργασία φωτογραφιών, η περίληψη κειμένων ή η έξυπνη αναζήτηση μπορούν σε πολλές περιπτώσεις να πραγματοποιούνται χωρίς να χρειάζεται κάθε πληροφορία να εγκαταλείψει τη συσκευή.
Γιατί έχει σημασία για την ιδιωτικότητα
Ένα από τα σημαντικότερα πλεονεκτήματα αφορά τα προσωπικά δεδομένα.
Όταν η επεξεργασία πραγματοποιείται τοπικά, ευαίσθητες πληροφορίες μπορούν να παραμένουν στο smartphone ή στον υπολογιστή αντί να αποστέλλονται συνεχώς σε εξωτερικούς servers.
Αυτό δεν σημαίνει ότι κάθε εφαρμογή on-device AI είναι αυτομάτως απόλυτα ιδιωτική. Σημαίνει όμως ότι οι κατασκευαστές έχουν πλέον τη δυνατότητα να σχεδιάσουν υπηρεσίες στις οποίες πολύ μεγαλύτερο μέρος της επεξεργασίας πραγματοποιείται τοπικά.
AI ακόμη και χωρίς internet
Υπάρχει και ένα δεύτερο σημαντικό πλεονέκτημα: η ταχύτητα.
Η συσκευή δεν χρειάζεται να στείλει δεδομένα σε ένα data center και να περιμένει την απάντηση. Για εργασίες που μπορεί να εκτελέσει τοπικά, το αποτέλεσμα μπορεί να εμφανίζεται σχεδόν άμεσα.
Παράλληλα, ορισμένες λειτουργίες μπορούν να συνεχίσουν να είναι διαθέσιμες ακόμη και όταν το smartphone βρίσκεται σε αεροπλάνο, σε περιοχή με κακό σήμα ή εντελώς εκτός σύνδεσης.
Φανταστείτε, για παράδειγμα, ένα κινητό που μεταφράζει μια συνομιλία σε πραγματικό χρόνο χωρίς internet ή ένα laptop που δημιουργεί περίληψη ενός εμπιστευτικού εταιρικού εγγράφου χωρίς να το ανεβάζει σε κάποιον εξωτερικό server.
Το smartphone γίνεται προσωπικός AI υπολογιστής
Η εξέλιξη αυτή αλλάζει και τον ανταγωνισμό μεταξύ των κατασκευαστών.
Για πολλά χρόνια, οι συγκρίσεις smartphones επικεντρώνονταν στην κάμερα, στην οθόνη, στην ταχύτητα του επεξεργαστή και στη διάρκεια της μπαταρίας. Πλέον προστίθεται μία νέα παράμετρος: πόσο αποτελεσματικά μπορεί η συσκευή να εκτελεί AI.
Οι ισχυρότερες NPU, η μεγαλύτερη διαθέσιμη μνήμη και τα μικρότερα, αποδοτικότερα μοντέλα τεχνητής νοημοσύνης επιτρέπουν λειτουργίες που πριν από λίγα χρόνια απαιτούσαν πανίσχυρους servers.
Η κάμερα μπορεί να καταλαβαίνει καλύτερα τι φωτογραφίζουμε, ο προσωπικός βοηθός να αντιλαμβάνεται το περιεχόμενο της οθόνης και η συσκευή να προσαρμόζει τις λειτουργίες της στις συνήθειες του χρήστη.
Θα εξαφανιστεί το cloud;
Μάλλον όχι.
Τα μεγαλύτερα και ισχυρότερα μοντέλα AI εξακολουθούν να απαιτούν τεράστια υπολογιστική ισχύ που δεν μπορεί να χωρέσει σε ένα smartphone.
Το πιθανότερο είναι επομένως ότι περνάμε σε μια υβριδική εποχή AI. Οι απλούστερες, προσωπικές ή χρονικά ευαίσθητες εργασίες θα πραγματοποιούνται στη συσκευή, ενώ οι πιο σύνθετες θα μεταφέρονται στο cloud.
Το smartphone θα αποφασίζει ουσιαστικά ποια εργασία μπορεί να ολοκληρώσει μόνο του και πότε χρειάζεται τη βοήθεια ενός μεγαλύτερου μοντέλου στο διαδίκτυο.
Γιατί έχει σημασία
Το on-device AI μπορεί να αποδειχθεί πολύ μεγαλύτερη αλλαγή από μία ακόμη νέα λειτουργία των smartphones. Μεταφέρει την τεχνητή νοημοσύνη από μια υπηρεσία που επισκεπτόμαστε σε μια τεχνολογία που βρίσκεται συνεχώς δίπλα μας.
Η επόμενη μεγάλη μάχη στην τεχνολογία ίσως λοιπόν να μην αφορά μόνο ποιος διαθέτει το ισχυρότερο AI model στο cloud, αλλά ποιος μπορεί να τοποθετήσει την πιο χρήσιμη και προσωπική τεχνητή νοημοσύνη μέσα στην τσέπη μας.
