Jest to drugi pod względem ważności składnik systemu. W bazie wiedzy zawarta jest uzyskana od ludzkich ekspertów wiedza dotycząca określonej dziedziny Wiedza ta zwykle zapisana jest za pomocą wybranego sposobu reprezentacji wiedzy, na przykład za pomocą reguł lub ram.
Jest to pomocnicza baza danych w której przechowywane są wnioski uzyskane przez system podczas jego działania. Baza ta umożliwia odtworzenie sposobu wnioskowania systemu i przedstawienie go użytkownikowi za pomocą mechanizmu wyjaśniającego.