Tijekom rasprave izdvojilo se nekoliko ključnih preduvjeta za organizacije koje žele prijeći dalje od eksperimentiranja s AI-em.
Snažni DevSecOps temelji
Agentska umjetna inteligencija ne zamjenjuje potrebu za CI/CD kontrolama, pravilima definiranim kroz kod (policy as code), upravljanjem identitetima i pristupima te nepromjenjivim revizijskim tragovima. Naprotiv, čini ih još važnijima. Agenti moraju djelovati unutar jasno definiranih razvojnih procesa, a ne izvan njih.
Analiza mogućeg utjecaja
Prije nego što agentu omogućite autonomno djelovanje u produkcijskom okruženju, morate razumjeti:
- na što sve može utjecati,
- koje promjene može napraviti,
- što bi mogao poremetiti,
- postoji li mogućnost neželjenih ponavljajućih procesa koji troše resurse.
Ograničavanje dosega agenta nije ograničavanje vrijednosti umjetne inteligencije. To je osnovni princip upravljanja rizikom.
Ljudska odgovornost u svakom koraku
Svaka radnja koju agent izvrši mora biti povezana s odgovornom osobom. U reguliranim industrijama to nije opcija, već zahtjev. No dobra praksa vrijedi bez obzira na industriju. Automatizacija ne uklanja potrebu za odgovornošću – ona samo mijenja način na koji se odgovornost provodi.