AI-2: νέα minimal διανομή Linux φέρνει την τεχνητή νοημοσύνη τοπικά σε κάθε υπολογιστή

Το AI-2 είναι μια μινιμαλιστική διανομή Linux για επιτραπέζιους υπολογιστές, σχεδιασμένη να φέρνει την τεχνητή νοημοσύνη (AI) τοπικά σε συνηθισμένους ή παλαιότερους υπολογιστές.

Κύρια Χαρακτηριστικά:

• Βάση Συστήματος: Βασίζεται στο Artix Linux (μια παραλλαγή του Arch Linux που δεν χρησιμοποιεί το σύστημα εκκίνησης systemd).
• Περιβάλλον Εργασίας: Χρησιμοποιεί το ελαφρύ γραφικό περιβάλλον Xfce.

Οδηγός Πρώτης Σύνδεσης (Setup Wizard):

• Ανιχνεύει το υλικό (hardware) του υπολογιστή.
• Αξιoλογεί και ορίζει μια βαθμίδα ικανοτήτων (capability tier) και έναν «δείκτη AI» (AI score).
• Εγκαθιστά την κατάλληλη έκδοση του llama.cpp και κατεβάζει αυτόματα το κατάλληλο μοντέλο γλώσσας (LLM) που ταιριάζει στις δυνατότητες του μηχανήματος.

AI-2 Chat: Περιλαμβάνει μια προσαρμοσμένη εφαρμογή συνομιλίας προσβάσιμη από το μενού, η οποία ανοίγει μια σελίδα chat στον περιηγητή ιστού και χρησιμοποιεί ένα συμβατό API με το OpenAI τρέχοντας τοπικά (localhost), διασφαλίζοντας ότι κανένα δεδομένο δεν φεύγει από τον υπολογιστή του χρήστη.

Το AI-2 έχει σχεδιαστεί με μια πολύ συγκεκριμένη φιλοσοφία: να κάνει εύκολη την τοπική χρήση της τεχνητής νοημοσύνης. Αντί να απαιτεί πανάκριβες κάρτες γραφικών (GPUs), είναι βελτιστοποιημένο να εκτελεί μοντέλα γλώσσας (LLMs) απευθείας στον επεξεργαστή (CPU) ακόμη και πολύ παλιών υπολογιστών.

Οδηγός Ρύθμισης & Οι 6 Βαθμίδες (Capability Tiers)

Κατά την πρώτη εκκίνηση, το AI-2 στο GitHub “σκανάρει” εξονυχιστικά το σύστημά σας.

• Υποστήριξη Παλιών Επεξεργαστών: Το σύστημα διαθέτει 3 διαφορετικές εκδόσεις του llama.cpp. Έτσι, ακόμα και αν ο επεξεργαστής σας είναι πολύ παλιός και δεν υποστηρίζει σύγχρονες οδηγίες όπως το AVX ή το SSE4.1, το AI-2 θα βρει και θα εγκαταστήσει την κατάλληλη συμβατή έκδοση για να μην κρασάρει το μοντέλο.
• Κατάταξη σε Tier: Ανάλογα με τη RAM και τη δύναμη της CPU, σας κατατάσσει σε μία από τις 6 βαθμίδες ικανοτήτων.
• AI Score: Εκτελείται ένα γρήγορο benchmark στην CPU για να υπολογιστεί το “AI Score”, το οποίο δείχνει πόσα token ανά δευτερόλεπτο (ταχύτητα παραγωγής κειμένου) μπορεί να αποδώσει ρεαλιστικά το μηχάνημά σας. Με βάση αυτό, σας προτείνει μικρά (π.χ. 1B έως 3B παραμέτρων) ή μεγαλύτερα μοντέλα (π.χ. 7B-8B).

Πακέτα Γνώσης (Knowledge Packs) για RAG εκτός σύνδεσης

Μία από τις πιο δυνατές λειτουργίες του AI-2 στο SourceForge είναι η ενσωμάτωση των Knowledge Packs.

• Πρόκειται για τοπικά έγγραφα που επιτρέπουν στο σύστημα να κάνει αναζήτηση πληροφοριών (τεχνική RAG) χωρίς Ίντερνετ.
• Η διανομή έρχεται προεγκατεστημένη με 3 πακέτα γνώσης: τον οδηγό βοήθειας του AI-2, έναν οδηγό για καθημερινές εργασίες στο Linux, και πληροφορίες για 196 χώρες.
• Το σύστημα απαντά αναφέροντας ακριβώς από ποιο έγγραφο πήρε την πληροφορία. Μπορείτε επίσης να δημιουργήσετε τα δικά σας πακέτα ρίχνοντας μέσα τα δικά σας PDF ή σημειώσεις

Αρχιτεκτονική 

• Runit αντί για Systemd: Το Artix Linux χρησιμοποιεί το σύστημα εκκίνησης runit. Αυτό σημαίνει ότι το λειτουργικό ξεκινάει καταναλώνοντας ελάχιστη μνήμη RAM (συνήθως κάτω από 300-400MB στην εκκίνηση με Xfce), αφήνοντας σχεδόν όλη τη διαθέσιμη μνήμη του υπολογιστή ελεύθερη για να φορτωθεί το AI μοντέλο.
• Τοπικό API (OpenAI-Compatible): Το llama-server τρέχει στο παρασκήνιο. Αυτό σημαίνει ότι αν είστε προγραμματιστής, μπορείτε να στρέψετε οποιοδήποτε δικό σας script ή εφαρμογή (που κανονικά θα καλούσε την OpenAI) στο http://localhost, και να χρησιμοποιήσετε το δικό σας, εντελώς δωρεάν και ιδιωτικό μοντέλο.
• Rolling Release: Επειδή βασίζεται στο Arch/Artix, το σύστημα αναβαθμίζεται συνεχώς (rolling release), εξασφαλίζοντας ότι λαμβάνετε πάντα τις τελευταίες βελτιστοποιήσεις του llama.cpp.

Αν θέλετε να το εγκαταστήσετε, μπορείτε να κατεβάσετε το έτοιμο ISO, ή (αν τρέχετε ήδη Artix/Arch) να προσθέσετε το επίσημο αποθετήριο των δημιουργών (ai2-packages) στο αρχείο pacman.conf για να κατεβάσετε τα εργαλεία που θα σας χρειαστούν

×Πρωτότυπο ↗