Conseqüências hipotéticas da IA

Nenhum observador dos desenvolvimentos da IA antecipam o desenvolvimento de sistema que excederão largamente a inteligência e a complexidade de qualquer coisa atualmente conhecida. Um nome dado a estes sistemas hipotéticos é a de artilectos. Com a introdução de sistemas de inteligência artificial não determinísticos, muitas questões éticas serão levantadas. Muitas destas questões nunca foram abordadas na história da humanidade.

Com o passar do tempo, os debates tenderam a focalizar cada vez menos em “possibilidade” e mais em “desejabilidade”, segundo enfatizado nos debates cosmistas (inglês “Cosmist”, defensor de idéias sobre o cosmo) versus terráqueos (inglês “Terran”), iniciados entre Hugo de Garis e Kevin Warwick. Um cosmista, de acordo com de Garis, na verdade procura construir mais sucessores inteligentes à espécie humana. O surgimento desse debate sugere que questões de desejabilidade podem também ter influenciado alguns dos primeiros pensadores contra a idéia.

Algumas questões que ocasionam perguntas éticas interessantes são:

• Determinação da sensitividade de um sistema que criamos;
  • Teste de Turing;
  • Cognição;
  • Por que afinal sentimos a necessidade de categorizar esses sistemas?
• Pode a IA ser definida em um sentido graduado?
• Liberdades e direitos para esses sistemas;
• Pode IAs ser “mais inteligentes” que os humanos, da mesma forma que somos “mais inteligentes” que outros animais?
• Desenhos de sistemas que são muito mais inteligentes que qualquer humano;
• Decisão do nível de salvaguardas a ser desenhadas nesses sistemas;
• Visão do nível de capacidade de aprendizado que um sistema necessita para replicar o pensamento humano, ou até que ponto satisfatoriamente ele pode realizar tarefas sem essa replicação. (e.g., sistema de perícia);
• A Singularidade;
• Conscientização subjetiva de emoções em relação a carreiras e empregos. Os problemas podem assemelhar-se a problemas detectados no mbito do livre comércio.