Η Cisco ενισχύει την ασφάλεια AI κώδικα με Project CodeGuard

Η πρόκληση της ασφάλειας στον κώδικα AI

Στη σύγχρονη εποχή της τεχνολογίας, οι software developers παγκοσμίως αξιοποιούν τους βοηθούς AI για να αυξήσουν την παραγωγικότητά τους στον προγραμματισμό. Ωστόσο, η ταχύτητα με την οποία υιοθετούνται αυτές οι τεχνολογίες δεν συμβαδίζει πάντα με την ασφάλεια. Ο κώδικας που παράγεται από AI συχνά περιέχει ευπάθειες όπως ανασφαλείς προεπιλογές, ελλιπή επαλήθευση εισόδου, σκληροκωδικοποιημένα μυστικά, αδύναμη κρυπτογραφία και εξαρτήσεις που έχουν αποσυρθεί. Αυτά τα προβλήματα συχνά περνούν απαρατήρητα και καταλήγουν σε παραγωγή.

Η ανάγκη για μια ενιαία προσέγγιση

Η βιομηχανία τεχνολογίας έχει επιτακτική ανάγκη για μια ενιαία, ανοικτή προσέγγιση που θα εξασφαλίζει την ασφάλεια του κώδικα που υποβοηθείται από AI. Σε αυτό το πλαίσιο, η Cisco παρουσιάζει το Project CodeGuard, ένα εσωτερικό πλαίσιο που ανοίγει προς το κοινό για την εξασφάλιση του AI κώδικα. Το Project CodeGuard ενσωματώνει κανόνες ασφαλείας εξ αρχής στις ροές εργασίας προγραμματισμού με AI, περιλαμβάνοντας ένα σύνολο κανόνων που καθοδηγείται από την κοινότητα, μεταφραστές για δημοφιλή εργαλεία προγραμματισμού με AI και επικυρωτές για αυτόματη επιβολή ασφάλειας.

Η λειτουργία του Project CodeGuard

Οι κανόνες του Project CodeGuard εφαρμόζονται καθ’ όλη τη διάρκεια του κύκλου ζωής του AI κώδικα. Μπορούν να ενσωματωθούν κατά τον σχεδιασμό προϊόντων και την ανάπτυξη βάσει προδιαγραφών, στη φάση του σχεδιασμού για να καθοδηγήσουν τα μοντέλα προς ασφαλή πρότυπα, κατά τη δημιουργία κώδικα για την αποφυγή προβλημάτων σε πραγματικό χρόνο, και μετά τη δημιουργία για αυτοματοποιημένη ανασκόπηση. Βοηθοί AI όπως Cursor, GitHub Copilot, Codex, Windsurf και Claude Code μπορούν να αξιοποιήσουν αυτούς τους κανόνες σε οποιοδήποτε στάδιο.

Πολυεπίπεδη προστασία χωρίς απώλεια ταχύτητας

Αυτή η προσέγγιση δημιουργεί πολυεπίπεδη προστασία χωρίς να θυσιάζεται η ταχύτητα που κάνει τα εργαλεία προγραμματισμού AI πολύτιμα. Για παράδειγμα, ένας κανόνας επαλήθευσης εισόδου μπορεί να προτείνει ασφαλή πρότυπα χειρισμού κατά τη δημιουργία, να επισημάνει μη ασφαλή επεξεργασία σε πραγματικό χρόνο και να επαληθεύσει την κατάλληλη απολύμανση στον τελικό κώδικα. Ένας κανόνας διαχείρισης μυστικών μπορεί να αποτρέψει τη σκληροκωδικοποίηση διαπιστευτηρίων, να ειδοποιήσει για ευαίσθητα μοτίβα δεδομένων και να επιβεβαιώσει την ασφαλή εξωτερικοποίηση των μυστικών.

Ο ρόλος των προγραμματιστών

Παρά την καθοδήγηση που προσφέρουν οι κανόνες του Project CodeGuard, η Cisco τονίζει ότι οι προγραμματιστές που χρησιμοποιούν AI για προγραμματισμό πρέπει να εφαρμόζουν τις τυποποιημένες πρακτικές ασφαλείας, συμπεριλαμβανομένης της επιθεώρησης από ομότιμους. Το Project CodeGuard λειτουργεί ως ένα επιπλέον επίπεδο άμυνας και δεν αντικαθιστά την κρίση του μηχανικού ή τις απαιτήσεις συμμόρφωσης.

Η έκδοση 1.0.0 και το μέλλον του Project CodeGuard

Η έκδοση 1.0.0 περιλαμβάνει βασικούς κανόνες ασφαλείας που βασίζονται σε οδηγίες OWASP και CWE, αυτοματοποιημένα scripts που μεταφράζουν κανόνες για Cursor, Windsurf και GitHub Copilot, καθώς και τεκμηρίωση για νέους συνεισφέροντες. Ο οδικός χάρτης περιλαμβάνει ευρύτερη κάλυψη γλωσσών, περισσότερες ενσωματώσεις πλατφορμών και αυτόματη επικύρωση κανόνων. Μελλοντικές εκδόσεις θα μεταφράζουν αυτόματα κανόνες για νέες πλατφόρμες, θα προτείνουν κανόνες βάσει πλαισίου έργου και τεχνολογικού stack, θα διατηρούν συνέπεια μεταξύ των βοηθών, θα μειώνουν τη χειροκίνητη διαμόρφωση και θα παρέχουν βρόχους ανατροφοδότησης για τη βελτίωση των κανόνων με βάση τα πρότυπα χρήσης.

Η σημασία της συμβολής της κοινότητας

Η Cisco επιθυμεί την εμπλοκή της κοινότητας για τη βελτίωση του ανοιχτού κώδικα εργαλείου ασφαλείας AI. Μηχανικοί ασφαλείας, προγραμματιστές λογισμικού και ερευνητές AI μπορούν να συμβάλουν υποβάλλοντας κανόνες για συγκεκριμένες γλώσσες, πλαίσια ή ευπάθειες, δημιουργώντας μεταφραστές για άλλα εργαλεία AI ή μοιράζοντας σχόλια μέσω αναφορών σφαλμάτων, προτάσεων βελτίωσης και προτάσεων λειτουργιών.

Δείτε επίσης: Οι δεξιότητες AI τώρα είναι ζωτικής σημασίας, αλλά οι προγραμματιστές λογισμικού λένε ότι οι άνθρωποι μετράνε περισσότερο

Θέλετε να μάθετε περισσότερα για την AI και τα μεγάλα δεδομένα από ηγέτες της βιομηχανίας; Εξερευνήστε την AI & Big Data Expo που λαμβάνει χώρα στο Άμστερνταμ, την Καλιφόρνια και το Λονδίνο. Η ολοκληρωμένη εκδήλωση είναι μέρος του TechEx και συνδυάζεται με άλλες κορυφαίες τεχνολογικές εκδηλώσεις, συμπεριλαμβανομένου του Cyber Security Expo.

Το Developer υποστηρίζεται από την TechForge Media. Εξερευνήστε άλλες προσεχείς εκδηλώσεις τεχνολογίας για επιχειρήσεις και webinars εδώ.