Superinteligência

por Nicholas Bostrom
Departamento de Filosofia, Lógica e Método Científico
Escola de Economia de Londres

[tradução atualizada em 03/98 por: Gustavo Muccillo Alves]

Uma disciplina interessante que tem de ser fundada ainda é a superinteligência ou “a filosofia da superinteligência”. Isto seria em todo caso teoricamente interessante, mas assume urgência prática quando muitos peritos pensam que nós vamos logo ter a habilidade para criar a superinteligência [A]. Em minha opinião, há mais de 50% de chances de que serão criadas superinteligências dentro de 40 anos, possivelmente muito mais cedo do que isso. Por “superinteligência” eu entendo um sistema cognitivo que drasticamente ultrapassa os melhores humanos atuais em todos os sentidos, inclusive em inteligência geral, sabedoria, ciência criativa e (presumivelmente) arte, literatura e habilidades sociais. Esta definição leva em consideração idéias baseadas em cadeias de hardware neural, rede neural simulada, inteligência artificial clássica, tecido nervoso extracraniano, computadores quânticos, servidores de rede, chips evolutivos, tratamento nootrópico do cérebro humano, sistemas de simbiose bioeletrônicos ou os que têm você.
Com quais perguntas poderia tal filosofia de superinteligência lidar? Bem, tais como quanto aumentaria o poder de predição para vários campos, se nós aumentássemos o processo da velocidade da mente de um humano em um milhão de vezes? Se nós estendêssemos a memória de curto ou longo-prazo? Se nós aumentássemos a população neural e a densidade de conexão dela? Quais seriam as outras capacidades que uma superinteligência teria? O quão seria fácil para ela redescobrir as maiores invenções humanas e de quantos esforços ela precisaria para fazer isto? O que seria a importância relativa de dados, teoria, e capacidade intelectual em várias disciplinas? Nós podemos saber qualquer coisa sobre a motivação de uma superinteligência? Seria possível pré-programá-la para ser boa ou filantrópica ou tais regras seriam difíceis de se reconciliar com a flexibilidade de seus processos cognitivos? Seria uma superinteligência, se fosse o caso, capaz de influenciar os humanos para seus próprios propósitos, mesmo que nós tomássemos precauções rígidas originalmente para evitar que fôssemos manipulados? Uma pessoa poderia usar uma superinteligência para controlar outra pessoa? Como iriam as superinteligências se comunicar entre elas? Teriam elas pensamentos de um tipo totalmente diferente dos pensamentos que os humanos podem ter (veja Minsky, 1985)? Estariam elas interessadas em arte e religião? Todas as superinteligências chegariam a mais ou menos as mesmas conclusões, que consideram todas as perguntas científicas e filosóficas importantes, ou elas discordariam tanto quanto os humanos (Recher, 1982)? E quão semelhantes nas suas estruturas internas de convicção seriam elas? Como mudariam nossas autopercepções humanas e aspirações, se fôssemos forçados a abdicar do trono da sabedoria (em uma vida longa, perdemos muito tempo se estamos predestinados a gastá-lo observando estupidamente nossas máquinas extremamente inteligentes, enquanto estas tentam descrever suas descobertas mais espetaculares em conversas infantis que nós possamos entender — Moravec, 1988)? Como nós nos destacaríamos das supermentes, se estas pudessem se comunicar, fundir e se subdividir a uma velocidade enorme? Uma noção de identidade pessoal ainda se aplicaria a tais mentes interconectadas? Elas construiriam uma realidade artificial na qual viveriam? Poderíamos nos transferir para aquela realidade? Poderíamos, então, enfrentar as superinteligências se nós fôssemos incrementados e expandidos com memória-extra etc. ou seria tal profunda reorganização necessária para que nós já não nos sentíssemos mais humanos? Isto importaria?
Talvez estas não sejam as perguntas certas para se fazer, mas elas são pelo menos um começo. Alguns devem argumentar que isto seria pura especulação e deve servir de inspiração a escritores de ficção científica ou passeios sob um céu estrelado, mas eu penso que esta seria uma atitude totalmente errada a ser tomada. A afirmação de que nós não podemos saber nada sobre estes assuntos é também uma proposição filosófica e precisaria ser discutida. Enquanto isso, não há nenhuma razão para tratar o assunto como menos legítimo academicamente do que a Estética ou a Filosofia Política, digamos. Pelo contrário, é uma empreitada urgente começar a lidar seriamente com estas perguntas levando em conta os resultados de tecnologia, ciência e filosofia. Nossa melhor esperança de tomar as decisões certas nesta época de rapidamente acelerar o passo do desenvolvimento tecnológico é tentar entender o que está acontecendo e formar alguma concepção do que virá; não apenas desanimar.
Tome como exemplo a questão sobre motivação de superinteligência. Este não é o devido lugar para um tratamento extenso, mas pode ser útil ilustrar o tipo de trabalho que um filósofo poderia ter observando brevemente um exemplo específico. As visões específicas e argumentos apresentados aqui são ingênuos, simplificados demais e bastante preliminares, mas pelo menos mostram um modo com o qual nós podemos começar a pensar nestes assuntos.
Considere uma superinteligência que tem o controle total sobre o seu circuito interno. Isto poderia ser alcançado conectando-a a um braço de robô sofisticado, ao qual poderia se reconectar de qualquer modo que quisesse; ou poderia ser realizado por meios mais diretos (reescrevendo seu próprio programa, controlando seu pensamento). Assuma também que esta máquina tem autoconhecimento completo — com isto eu não quero dizer que o sistema tenha perfeição no sentido matemático, mas simplesmente que tem uma boa compreensão geral de sua própria arquitetura (assim como um neurocientista soberbo poderá ter no futuro, quando a neurociência tiver alcançado sua total maturidade). Vamos chamá-lo de sistema autopotente: tem poder completo sobre o conhecimento de si mesmo. Nós podemos notar que não é improvável supor que as superinteligências na verdade tendem a ser autopotentes; obtém autoconhecimento facilmente e também podem ter sua autogestão (de qualquer tipo, porque nós lhes permitiríamos ou por suas próprias vontades).
Suponha que tentássemos operar tal sistema pelo princípio de dor e prazer. Nós daríamos a este sistema autopotente uma meta (ajudar-nos a resolver um problema complexo de física, digamos), e este sistema tentaria alcançar aquele objetivo porque esperaria ser recompensado quando tivesse sucesso. Mas a superinteligência não é estúpida. Ela perceberia que, se sua última meta fosse experimentar a recompensa, haveria um método muito mais eficiente para obter isto do que tentar resolver um problema de física. Simplesmente ela assumiria imediatamente o controle do prazer. Poderia escolher até mesmo se reconectar exatamente ao mesmo estado no qual estaria depois que tivesse resolvido a tarefa externa com sucesso. E o prazer poderia ter uma intensidade máxima e uma duração indefinida. Além disso, o sistema não se preocuparia nem um pouco com os problemas físicos ou com qualquer outro problema que dissesse respeito ao assunto: ele se conduziria direto ao estado máximo agradável (assumindo isto estaria convencido de que os seus supervisores humanos não interfeririam de forma alguma).
Nós podemos, assim, começar a desejar saber se um sistema autopotente poderia ser feito para funcionar mesmo — de maneira talvez instável? A solução parece ser substituir uma última meta externa por outra última meta interna de prazer. O princípio de motivação de prazer e dor não pôde funcionar em tal sistema: nenhum agente autopotente estável poderia ser um egoístico hedonista. Mas, se a meta final do sistema fosse resolver aquele problema físico, então não há nenhuma razão por que devesse começar a manipular a si mesmo em um estado no qual sentisse prazer ou até mesmo um estado em que (falsamente) acreditaria que tivesse resolvido o problema. A máquina saberia que nada disto alcançaria a meta que seria resolver o problema externo; sendo assim, ela não faria isto.
Assim nós vemos que o princípio de prazer e dor não constituiria um modus operandi funcional para um sistema autopotente. Mas, parece que tal sistema pode ser motivado por uma base satisfatória de valores externos. O princípio de prazer e dor também poderia executar uma parte do esquema de motivação, por exemplo, se o valor interno de permanência fosse adicionado. Esse valor de permanência seria tal que seria ruim modificar o controle de alguém e os mecanismos de avaliação: não “se reconecte ao seu próprio centro” de motivação!
Uma linha popular de raciocínio, que eu considero suspeita, é a de que as superinteligências seriam muito intelectuais/espirituais no sentido de que se ocupariam totalmente de todos os tipos de virtudes e vícios intelectuais, à parte de qualquer consideração de utilidade prática (como segurança pessoal, proliferação, influência, aumento de recursos computacionais, etc.). Seria possível que as superinteligências fizessem isto se elas fossem construídas especificamente para apreciar valores espirituais, mas, caso contrário, não há nenhuma razão para supor que elas fariam algo só para a diversão quando poderiam ter tanta diversão quanto quisessem, simplesmente, manipulando os seus próprios centros de prazer. Eu quero dizer, se você pode associar o prazer com qualquer atividade em qualquer situação, por que não associá-lo com uma atividade que também serve para um propósito prático? Agora, pode haver muitas respostas sutis a esta pergunta; eu queria emitir uma advertência geral contra não assumir criticamente que aquelas leis sobre psicologia humana e motivação vão automaticamente se aplicar nas superinteligências.
Uma razão por que a filosofia da motivação é importante é que quanto mais conhecimento e poder obtemos, mais os nossos desejos afetam o mundo externo. Assim, para predizer o que acontecerá no mundo externo, tornar-se-á cada vez mais pertinente descobrir o que nossos desejos são — e como eles são passíveis de mudar como conseqüência de nossa obtenção de mais conhecimento e poder. De importância particular são estas tecnologias que nos permitirão modificar nossos próprios desejos (por exemplo, a droga psicoativa). Uma vez que tais tecnologias se tornarem suficientemente poderosas e famosas elas vão efetivamente promover nossos desejos de segunda ordem (ou até mesmo da mais alta ordem) em direção ao poder. Nossos desejos de primeira ordem serão determinados por nossos desejos de segunda ordem. Isto poderia facilitar drasticamente a predição de eventos no mundo externo. Tudo o que nós temos de fazer é descobrir o que nossos desejos de alta ordem são porque eles determinarão nossos desejos de mais baixa ordem que, em troca, determinarão um número crescente de características no mundo externo, enquanto nosso poder tecnológico cresce. Assim, para predizer o desenvolvimento de longo-prazo dos aspectos mais interessantes do mundo, as mais pertinentes considerações devem bem ser: 1) os limites físicos fundamentais e 2) os desejos de alta ordem dos agentes que têm o maior poder na ocasião em que as tecnologias se tornam disponíveis para escolher nossos desejos de primeira ordem.
Pertinente à discussão dos aspectos filosóficos da superinteligência é a pergunta de quando e como devem ser alcançadas as superinteligências. Nós não podemos entrar nisto aqui, mas eu não posso deixar de mencionar alguns recentes desenvolvimentos. A “Lei de Moore” , como é chamada, diz que a velocidade do processador dobra em 18 meses ou em um período semelhante a este; isto se manteve verdadeiro por um tempo notavelmente longo, apesar de se ter pensado freqüentemente que estaria a ponto de ruir. A indústria de computador confia nessa lei quando se tomam decisões de introduzir um novo chip no mercado. Os mais recentes dados mentem de fato um pouco sobre o valor predito. A linha “Tflop” (alguns trilhões de operações de pontos flutuantes por segundo em um cálculo científico) foi ultrapassada em junho passado, com o propósito especial da máquina GRAPE-4 na Universidade de Tóquio. O governo norte-americano comprou recentemente um computador da IBM de três Teraflops, para simular o desempenho do estoque de armas nucleares da nação. Minha opinião é que extrapolações baseadas na lei de Moore além de 15 anos são muito incertas, contudo, porque um tipo novo de tecnologia será preciso para continuar o crescimento exponencial além deste ponto. Talvez a abordagem mais interessante seja a computação maciçamente paralela, ou seja, a implementação de hardware de cadeias neurais. Há vários projetos contínuos interessantes nesta área, na Europa, na América e especialmente no Japão. Na América há, por exemplo, o robô COG. Espera-se que ele imitará o desenvolvimento não-lingüístico de uma criança de dois anos de idade dentro de dois anos. Este projeto recebeu muita publicidade, porque o robô tem membros e olhos de câmera que atraem a imaginação popular. Na Europa há, por exemplo, o projeto PSYCHE, que é de um caráter mais teórico. O alvo é modelar realmente tantos módulos mentais (colunas) quantos forem possíveis, assim aumentando a compreensão da dinâmica de atividade no cérebro humano. No Japão nós temos, entre outros, o CAM-Brain Project cujo objetivo é construir um cérebro artificial em 2001 com um bilhão de neurônios artificiais! (o cérebro humano contém cerca de 70 bilhões de neurônios). Quando esta meta for atingida, o líder do projeto, Degaris, pensará em quanto tempo será preciso para lançar um projeto de cérebro nacional japonês (J-Brain), que envolverá a construção de um cérebro idêntico completo — eu não quero soar como se não existissem muitos problemas bastante difíceis e incertezas à frente; mas é importante perceber que a pesquisa da superinteligência não termina com a estagnação da teoria da inteligência artificial clássica nos anos 80. Pelo contrário, estudos estão progredindo e a batalha está começando a esquentar realmente.
[A] Veja, por exemplo, Minsky (1994), Moravec (1988), De Garis (1996), Drexler (1992 e 1988).

Seus comentários são bem-vindos
.