Il comportamento della macchina è un campo di studio emergente che esplora i modi in cui ciò agenti intelligenti comportarsi, in modo simile al modo in cui molte discipline scientifiche esplorano il comportamento degli esseri umani.
Intelligenza artificiale generale (AGI, o forte intelligenza artificiale) richiede la capacità dei sistemi di intelligenza artificiale di trovare soluzioni a problemi non familiari, situazioni per le quali non sono stati programmati. Perché avanzato AI i sistemi hanno un certo grado di autonomia e la capacità di azione indipendente, il loro comportamento è relativamente imprevedibile - non può essere completamente determinato esaminando il loro software più di quanto il comportamento umano possa essere previsto con precisione esaminando il nostro cervello.
Questa imprevedibilità sarà aggravata solo quando i sistemi di intelligenza artificiale diventeranno più intelligenti e autonomi e man mano che interagiscono sempre più con le persone e tra di loro in ambienti con vari gradi di supervisione umana. Lo studio del comportamento della macchina è consigliato per cogliere complicazioni impreviste dell'autonomia dell'IA, in modo che possa essere affrontato prima che porti a conseguenze indesiderabili.
Secondo Iyad Rahwan e Manuel Cebrian, scrivendo su Nautilus, "Questa nuova disciplina si occupa dello studio scientifico delle macchine, non come artefatti ingegneristici, ma come una nuova classe di attori con i loro modelli comportamentali unici ed ecologia".