Outros caminhos da Singularidade: Amplificação da Inteligência (IA)

Quando as pessoas falam em criar inteligências seres super-humanamente inteligentes, estão geralmente imaginando um projeto de AI. Mas como frisei no começo deste trabalho, há outros caminhos para a super-humanidade. As redes de computador e as interfaces homem-computador parecem mais mundanas do que a AI, no entanto podem conduzir à Singularidade. Eu chamo esta abordagem contrastante de Amplificação da Inteligência (IA). IA é algo que está acontecendo muito naturalmente, na maioria dos casos nem mesmo está sendo reconhecido por seus desenvolvedores. Mas cada vez que nossa habilidade de acessar informação e de comunicar isto com outros são melhorados, em certo sentido nós conseguimos um aumento sobre a inteligência natural. Mesmo hoje, a equipe de uma estação de trabalho operada por PHD humanos (mesmo uma estação de trabalho fora de rede!) poderia provavelmente maximizar qualquer teste de inteligência existente.

E é muito provável que IA seja uma estrada muito mais fácil para o alcance da super-humanidade do que a AI pura. Nos seres humanos, os problemas de desenvolvimento mais difíceis já foram resolvidos. Construir de dentro de nos mesmos deverá ser bem mais fácil do que descobrir antes o que nós realmente somos e então construir máquinas que representem aquilo. E há pelo menos um precedente conjetural para esta abordagem. Cairns-Smith [6] especulou que a vida biológica pode ter começado como um acessório para vidas ainda mais primitivas baseadas no crescimento cristalino. Lynn Margulis (em [15] e em seguida) produziu argumentos fortes que o mutualismo é uma grande força orientadora da evolução.

Note-se que eu não estou propondo que a pesquisa em AI seja ignorada ou menos financiada. O que vai para AI terá frequentemente aplicações em IA, e vice-versa. Eu estou sugerindo que nós reconheçamos que na pesquisa das redes e das interfaces existe algo tão profundo (e potencialmente intocado) quanto a inteligência artificial (AI). Com essa introspecção, nós podemos enxergar projetos que não são tão diretamente aplicáveis como interfaces convencionais e como projeto de redes, mas que servem para que avancemos na direção da Singularidade ao longo do caminho da IA.

Eis aqui alguns projetos possíveis que assumem uma significância especial, do ponto de vista da IA:

• Equipe de automação homem/computador: Imagine os problemas que são considerados normalmente de solução puramente mecânica (como problemas "hill-climbing"), e problemas de projeto e interface que utilizam a vantagem da intuição humana e o hardware disponível. Considerando todo o bizarrismo dos maiores problemas dimensionais tipo "hill-climbing" (e dos algoritmos puros que tenham sido planejados para sua solução), poderiam existir ferramentas muito interessantes de controle e apresentação disponíveis ao membro humano da equipe. (NT-Hill climbing é um método de busca (local) que utiliza um procedimento de melhora iterativa (iterative improvement)).

• Desenvolver s simbiose homem/computador na arte: Combinar a potencialidade gráfica da geração de máquinas modernas e a sensibilidade estética dos seres humanos. Naturalmente, tem havido uma quantidade enorme de pesquisa no projeto de periféricos de computadores para artistas, como ferramentas para economia de trabalho. Eu estou sugerindo que nós no orientemos explicitamente para uma maior fusão de competência, reconheçamos explicitamente a abordagem cooperativa que é possível. Karl Sims [23] fez um trabalho maravilhoso nesta direção.

• Permitir equipes humanas/computador em torneios de xadrez. Já temos os programas que podem jogar melhor do que quase a maioria dos seres humanos. Mas quanto trabalho foi feito na direção desta facilidade poder ser usada por um ser humano, para obter resultados ainda melhores? Se fosse permitido a tais equipes participarem em pelo menos alguns torneios de xadrez, isto poderia ter o efeito positivo na pesquisa de IA que a permissão de computadores nos torneios teve para o nicho correspondente na AI.

• Desenvolver interfaces que permitam o acesso do computador e de rede sem requerer que o ser humano esteja amarrado a um ponto, sentando-se na frente de um computador. (Este é um aspecto de IA que se ajusta muito bem com as vantagens econômicas conhecidas, que vários esforços já estão sendo gastos nele).

• Desenvolver uns sistemas de suportes à decisão mais simétricos. Uma área pesquisa/produto popular em anos recentes têm sido os sistemas de sustentação da decisão. Esta é uma forma de IA, mas pode estar demasiadamente focada em sistemas que são dogmáticos. Tanto quanto o programa dando informação ao usuário, deve existir a idéia do usuário dando orientação ao programa.

• Usar redes locais para criar equipes humanas que realmente trabalham (i.e. são mais eficazes do que seus membros componentes). Esta é geralmente a área de "groupware", que já é um objetivo comercial muito popular. A mudança no ponto de vista aqui seria considerar a atividade do grupo como um organismo combinação. Em um sentido, esta sugestão pôde ser considerada como o objetivo de inventar "regras de ordem" para tais operações da combinação. Por exemplo, o foco do grupo pode mais fàcilmente ser mantido do que em reuniões clássicas. A expertise de membros humanos individuais poderia ser isolada das manifestações do ego de maneira que a contribuição de membros diferentes esteja focada no projeto da equipe. E, naturalmente, bases de dados compartilhadas poderiam ser usadas muito mais convenientemente do que em operações convencionais de comitê. (Note-se que esta sugestão é orientada visando mais operações da equipe do que reuniões políticas. Em um ajuste político, a automatização descrita acima reforçaria simplesmente o poder das pessoas que fazem as regras!).

• Explorar a Internet mundialmente como uma ferramenta de combinação homem/máquina. De todos os artigos na lista, o progresso neste item está fluindo mais rápido e pode nos levar a Singularidade antes de qualquer outra coisa. O poder e a influência da Internet, mesmo nos dias presentes, é amplamente subestimada. Por exemplo, eu penso que nossos sistemas computadorizados contemporâneos quebrariam sob o peso de sua própria complexidade se não fosse pela vanguarda que a USENET "group mind" dá à administração do sistema e ao suporte das pessoas. A enorme anarquia do desenvolvimento da Net mundialmente é evidência de seu potencial. À medida que a conectividade, largura de banda, tamanho dos arquivos e velocidade dos computadores, tudo isto aumentar, nós estaremos vendo algo como a visão de Lynn Margulis [15] da biosfera como processador de dados recapitulada, mas em uma velocidade um milhão vezes maior e com milhões de agentes humanos inteligentes (nós mesmos).

Os exemplos acima ilustram a pesquisa que pode ser feita dentro do contexto de departamentos contemporâneos de informática. Há outros paradigmas. Por exemplo, muito do trabalho na inteligência artificial e em redes neurais beneficiar-se-iam de uma conexão mais próxima com a vida biológica. Em vez simplesmente de tentar modelar e compreender a vida biológica com computadores, a pesquisa poderia ser dirigida para a criação dos sistemas compostos que confiam na vida biológica para a orientação ou para fornecimento de características as quais não compreendemos bem o bastante ainda para implementar nos hardwares. Um sonho de longo prazo da ficção cientifica têm siso a ligação direta do cérebro com interfaces de computador [2] [29]. Na verdade, há trabalho concreto que pode ser feito (e está sendo feito) nesta área:

• amputados protetizados (Limb prosthetics) é um tópico da aplicabilidade comercial direta. Do nervo aos transdutores do silicone pode ser feito [14]. Esta é uma excitante etapa quase-final na direção de uma comunicação direta.

• As ligações diretas em cérebros parecem praticáveis, se a taxa de bits for baixa: dada a flexibilidade de aprendizagem humana, o poder real dos alvos do neurônio do cérebro pode não ter sido selecionada precisamente. Mesmo 100 bits por segundo seriam de grande uso para atacar vítimas que seriam de outra maneira confinadas às relações direcionadas por menu.

• Ligações ao tronco ótico têm o potencial para larguras de banda de 1 Mbit/segundo mais ou menos. Mas para isto, nós necessitamos saber que a arquitetura em escala fina da visão, e nós necessitamos colocar uma rede enorme dos elétrodos com precisão acurada. Se nós quisermos elevar a largura de banda da nossa conexão somando-se aos trajetos já que estão presentes no cérebro, o problema torna-se vastamente mais difícil. Apenas colocar uma grade de receptores de elevada largura de banda no cérebro, certamente, não funcionará. Mas suponhamos que a grade de largura de banda esteja presente enquanto a estrutura do cérebro realmente se forma à medida que o embrião se desenvolve. Isso sugere:

• Experiências com embrião de animais. Eu não esperaria nenhum sucesso de IA nos primeiros anos de tal pesquisa, mas dar o acesso aos cérebros em desenvolvimento a estruturas neurais simuladas complexas pode ser muito interessante para as pessoas que estudam como o cérebro embrionário se torna. No longo prazo, tais experiências poderão produzir animais com os caminhos adicionais dos sentidos e habilidades intelectuais interessantes.

Originalmente, eu esperava que esta discussão de IA rendesse algumas aproximações mais seguras para a Singularidade. (Apesar de tudo, a IA permite nossa participação em um tipo de transcendência.) Infelizmente, recordando sobre estas propostas de IA, apesar de tudo, estou certo do que deva ser considerado e do que pode nos possa oferecer mais opções. Mas como segurança... também, algumas das sugestões são um pequeno susto em sua face. Um de meus revisores informais anotou que IA para seres humanos individuais cria uma elite bastante sinistra. Nós seres humanos temos milhões dos anos da bagagem evolucionária que nos faz considerar a competição como uma visão mortal. Muito dessa fatalidade não pode ser necessária no mundo de hoje, um mundo no qual os perdedores assumem os truques dos vencedores e são cooptados nos empreendimentos vencedores. Uma criatura que fosse construída de novo pôde possivelmente ser uma entidade muito mais benigna do que uma com uma semente baseada em dentes e garras. Mesmo a visão igualitária de uma Internet que acorde junto com toda a humanidade pode ser vista como um pesadelo [26].

O problema não é simplesmente que a Singularidade representa a passagem da humanidade de um estágio central, mas que ela contradiz nossas noções mais profundas do que é um ser. Eu penso que um olhar mais próximo na noção da super-humanidade forte pode mostrar porque é assim.

Super-humanidade forte e o melhor que nós podemos esperar

Suponhamos que poderíamos costurar a Singularidade. Suponhamos que poderíamos alcançar nossas mais extravagantes esperanças. O que então pediríamos: Que os seres humanos propriamente se transformassem em seus próprios sucessores, que qualquer injustiça que ocorresse seria moderada pelo conhecimento de nossas raízes. Para aqueles que remanesceram inalterados, a meta seria um tratamento benigno (talvez mesmo dar aos retardatários a aparência de serem mestres de bons escravos à semelhança de Deus). Seria uma era dourada que também envolve o progresso (overleaping Stent's barrier). A Imortalidade (ou pelo menos uma vida tão longa quanto possamos fazer o universo sobreviver [10] [4]) seria alcançável.

Mas neste mundo brilhante e mais amável, os problemas propriamente filosóficos tornar-se-iam intimidantes Uma mente que permaneça com a mesma capacidade não pode viver para sempre; depois que alguns milhares anos pareceria mais como uma fita repetindo em "loop" do que uma pessoa. (O retrato mais frio eu vi disto está em [18].) Para viver indefinidamente, a mente propriamente deve crescer... e quando se torna grande bastante, e olha para trás... que sentimento pode ele ter com a alma original? Certamente o ser posterior seria tudo que o original era, mas muito mais amplo. E assim mesmo para o indivíduo, a noção de Cairns-Smith ou de Lynn Margulis da vida nova crescer incrementalmente fora da antiga seja ainda válida.

Este "problema" sobre a imortalidade aparece em modos mais diretos. A noção do ego e da autoconsciência foi o alicerce do racionalismo obstinado dos últimos séculos. Contudo agora a noção da autoconsciência está sob o ataque do pessoal da inteligência artificial ("autoconsciência e outras ilusões"). A Amplificação da Inteligência diminui nosso conceito do ego de uma outra direção. O mundo da pós-Singularidade envolverá redes de elevada largura de banda. Uma característica central de entidades fortemente super-humana será provavelmente sua habilidade de comunicar-se em larguras de faixa variáveis, incluindo algumas bem mais rápidas do que o discurso falado ou mensagens escritas. O que acontece quando as partes de ego podem ser copiadas e mescladas, quando o nível da autoconsciência pode crescer ou encolher para se ajustar à natureza dos problemas analisados? Estas são características essenciais da super-humanidade forte e da Singularidade. Pensando sobre elas, começa-se a sentir como, essencialmente, estranha e diferente será a era Pós-Humana - não importa quão inteligente e benigna ela venha a ser.

De um ângulo, a visão se encaixa em muitos de nossos sonhos mais felizes: um momento interminável, onde nós podemos verdadeiramente conhecer um outro e compreender os mistérios mais profundos. De um outro ângulo, se parece muito com o pior cenário que imaginei no início deste trabalho.

Qual é o ponto de vista válido? Na verdade, eu penso que a era nova é simplesmente demasiado diferente para se encaixar nas molduras de bom e mau. Que a moldura está baseado na idéia de mentes isoladas e imutáveis conectadas pelas tênues ligações de banda-baixa. Mas o mundo Pós-Singularidade se ajusta com a enorme tradição de mudança e cooperação que se iniciou à bastante tempo (talvez mesmo antes da ascensão da vida biológica). Eu penso que existem noções da ética que se aplicariam em tal era. A pesquisa em IA e em comunicações em elevadas larguras de banda deve melhorar esta compreensão. Eu vejo agora apenas os relances disto [32]. Há uma boa Meta Regra de Ouro; talvez existam regras para distinguir o ego tendo como base a largura de banda da conexão. E quando a mente e o ego serão vastamente mais transiente do que no passado, muito do que damos valor (conhecimento, memória, pensamento) não precisa nunca ser perdido. Eu penso que Freeman Dyson está certo quando diz [9]: "Deus é no que a mente se transforma quando tiver passado além da escala de nossa compreensão."

[Desejo agradecer John Carroll da Universidade de Estado do San Diego e Howard Davidson de Sun Microsystems por discutir o esboço deste trabalho comigo.]

Fontes anotadas [e uma ocasional ajuda bibliográfica mantida no original em inglês]

[1] Alfve'n, Hannes, writing as Olof Johanneson, _The End of Man?_, Award Books, 1969 earlier published as "The Tale of the Big Computer", Coward-McCann, translated from a book copyright 1966 Albert Bonniers Forlag AB with English translation copyright 1966 by Victor Gollanz, Ltd.

[2] Anderson, Poul, "Kings Who Die", _If_, March 1962, p8-36. Reprinted in _Seven Conquests_, Poul Anderson, MacMillan Co., 1969.

[3] Asimov, Isaac, "Runaround", _Astounding Science Fiction_, March 1942, p94. Reprinted in _Robot Visions_, Isaac Asimov, ROC, 1990. Asimov describes the development of his robotics stories in this book.

[4] Barrow, John D. and Frank J. Tipler, _The Anthropic Cosmological Principle_, Oxford University Press, 1986.

[5] Bear, Greg, "Blood Music", _Analog Science Fiction-Science Fact_, June, 1983. Expanded into the novel _Blood Music_, Morrow, 1985.

[6] Cairns-Smith, A. G., _Seven Clues to the Origin of Life_, Cambridge University Press, 1985.

[7] Conrad, Michael _et al._, "Towards an Artificial Brain", _BioSystems_, vol 23, pp175-218, 1989.

[8] Drexler, K. Eric, _Engines of Creation_, Anchor Press/Doubleday, 1986.

[9] Dyson, Freeman, _Infinite in All Directions_, Harper && Row, 1988.

[10] Dyson, Freeman, "Physics and Biology in an Open Universe", _Review of Modern Physics_, vol 51, pp447-460, 1979.

[11] Good, I. J., "Speculations Concerning the First Ultraintelligent Machine", in _Advances in Computers_, vol 6, Franz L. Alt and Morris Rubinoff, eds, pp31-88, 1965, Academic Press.

[12] Good, I. J., [Help! I can't find the source of Good's Meta-Golden Rule, though I have the clear recollection of hearing about it sometime in the 1960s. Through the help of the net, I have found pointers to a number of related items. G. Harry Stine and Andrew Haley have written about metalaw as it might relate to extraterrestrials: G. Harry Stine, "How to Get along with Extraterrestrials ... or Your Neighbor", _Analog Science Fact- Science Fiction_, February, 1980, p39-47.] [13] Herbert, Frank, _Dune_, Berkley Books, 1985. However, this novel was serialized in _Analog Science Fiction-Science Fact_ in the 1960s.

[14] Kovacs, G. T. A. _et al._, "Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation", _IEEE Transactions on Biomedical Engineering_, v 39, n 9, pp 893-902.

[15] Margulis, Lynn and Dorion Sagan, _Microcosmos, Four Billion Years of Evolution from Our Microbial Ancestors_, Summit Books, 1986.

[16] Minsky, Marvin, _Society of Mind_, Simon and Schuster, 1985.

[17] Moravec, Hans, _Mind Children_, Harvard University Press, 1988.

[18] Niven, Larry, "The Ethics of Madness", _If_, April 1967, pp82-108. Reprinted in _Neutron Star_, Larry Niven, Ballantine Books, 1968.

[19] Penrose, Roger, _The Emperor's New Mind_, Oxford University Press, 1989.

[20] Platt, Charles, Private Communication.

[21] Rasmussen, S. _et al._, "Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks", in _Emergent Computation_, Stephanie Forrest, ed., pp428-449, MIT Press, 1991.

[22] Searle, John R., "Minds, Brains, and Programs", in _The Behavioral and Brain Sciences_, vol 3, Cambridge University Press, 1980. The essay is reprinted in _The Mind's I_, edited by Douglas R. Hofstadter and Daniel C. Dennett, Basic Books, 1981 (my source for this reference). This reprinting contains an excellent critique of the Searle essay.

[23] Sims, Karl, "Interactive Evolution of Dynamical Systems", Thinking Machines Corporation, Technical Report Series (published in _Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life_, Paris, MIT Press, December 1991.

[24] Stapledon, Olaf, _The Starmaker_, Berkley Books, 1961 (but from the date on forward, probably written before 1937).

[25] Stent, Gunther S., _The Coming of the Golden Age: A View of the End of Progress_, The Natural History Press, 1969.

[26] Swanwick Michael, _Vacuum Flowers_, serialized in _Isaac Asimov's Science Fiction Magazine_, December(?) 1986 - February 1987. Republished by Ace Books, 1988.

[27] Thearling, Kurt, "How We Will Build a Machine that Thinks", a workshop at Thinking Machines Corporation, August 24-26, 1992. Personal Communication.

[28] Ulam, S., Tribute to John von Neumann, _Bulletin of the American Mathematical Society_, vol 64, nr 3, part 2, May 1958, pp1-49.

[29] Vinge, Vernor, "Bookworm, Run!", _Analog_, March 1966, pp8-40. Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen Books, 1987.

[30] Vinge, Vernor, "True Names", _Binary Star Number 5_, Dell, 1981. Reprinted in _True Names and Other Dangers_, Vernor Vinge, Baen Books, 1987.

[31] Vinge, Vernor, First Word, _Omni_, January 1983, p10.

[32] Vinge, Vernor, To Appear [ :-) ].

TrackBack URI for this entry

Comentarios (0)

RSS feed Comments

Mostrar/Esconder comentarios

Escreva seu Comentario

Nome

Email

Website

Titulo

Comentario

smaller | bigger

Subscribe via email (Registered users only)

I have read and agree to the Terms of Usage.

Escreva os caracteres mostrados

Adicionar Comentario