Para a pesquisadora de IA, Janelle Shane, o perigo da inteligência artificial não é que ela se rebele contra nós, mas que faça exatamente o que pedimos.
Segundo Shane no TED: “Nos filmes, quando algo dá errado com a IA, geralmente é porque a IA decidiu que não quer mais obedecer aos humanos, e tem seus próprios objetivos, muito obrigado. Na vida real, porém, a IA que realmente temos não é suficientemente inteligente para isso. Ele tem o poder de computação aproximado de uma minhoca, ou talvez no máximo uma única abelha e, na verdade, provavelmente talvez menos. Por exemplo, estamos constantemente aprendendo coisas novas sobre cérebros que deixam claro o quanto nossas IAs não comparam com cérebros reais. Portanto, a IA de hoje pode executar uma tarefa como identificar um pedestre em uma imagem, mas não tem um conceito do que é o pedestre além disso, é uma coleção de linhas, texturas e coisas. Não sabe o que realmente é um humano. Então, a IA de hoje fará o que pedimos? Será, se puder, mas pode não fazer o que realmente queremos. “
