Umelá inteligencia mení spôsob, akým školy a pedagógovia pracujú a deti sa učia. Využívame ju aj bez toho, aby sme si to uvedomovali (vyhľadávače, preklady jazykov, navigačné aplikácie, online videohry a pod.). Vzhľadom na veľké množstvo údajov potrebných na trénovanie systémov umelej inteligencie, automatizačnú povahu algoritmov a škálovateľnosť ich aplikácií vyvoláva využívanie umelej inteligencie otázky týkajúce sa osobných údajov, ochrany údajov a súkromia.
Školy sú povinné zabezpečiť, aby všetky údaje, ktoré spracúvajú, boli uchovávané dôverne a bezpečne. Musia mať zavedené vhodné politiky a postupy na ochranu a etické používanie osobných údajov v súlade s GDPR.
Používaním systémov umelej inteligencie sa môže potenciálne zlepšiť vyučovanie, vzdelávanie a hodnotenie, môžu sa získať lepšie vzdelávacie výstupy a môže sa pomôcť školám efektívnejšie fungovať. Ak však aplikácie umelej inteligencie nie sú správne navrhnuté alebo sa nepoužívajú obozretne, môže to mať škodlivé následky.
„Etická umelá inteligencia“ sa používa na označenie vývoja, zavedenia a využívania umelej inteligencie, ktorá zabezpečuje súlad s etickými normami, etickými zásadami a sú