Abstract
Desde sempre os seres humanos se aperceberam dos riscos associados tanto ao conhecimento,
quanto às tecnologias a ele associadas. Não só na mitologia grega se encontram os sinais e os
alertas para esses perigos, mas também nos mitos fundadores das religiões judaico-cristãs.
Todavia, tais alertas e receios nunca fizeram tanto sentido quanto o que fazem hoje em dia.
Tal resulta da emergência de máquinas capazes de reclamar para si funções cognitivas que
até há pouco eram desempenhadas exclusivamente por seres humanos. A revolução cognitiva,
propiciada pelo desenvolvimento da IA, além dos problemas técnicos associados ao seu
desenho e conceptualização, levanta problemas de ordem social e económica com impacto
directo na humanidade em geral, e nos seus grupos constituintes. Daí que a sua abordagem
do ponto de vista moral seja urgente e imperiosa. Os problemas éticos a considerar são de
duas ordens: Por um lado os que estão associados ao tipo de sociedade que queremos
promover através automação, complexificação e ao poder de tratamento de dados hoje em dia
disponíveis; por outro, como programar máquinas para tomada de decisão de acordo com
princípios morais aceitáveis pelos seres humanos que com elas partilham o conhecimento e a
acção.