.
Deu no Jornal da Ciência (JC e-mail) 3814, de 28 de Julho de 2009, a partir de matéria pubicada em "O Globo".


19. Pesadelo futurista

Especialistas em inteligência artificial discutem limitar tecnologia

Um robô capaz de abrir portas e encontrar tomadas por conta própria para se recarregar. Vírus de computador que ninguém consegue deter. Pequenas aeronaves não tripuladas que, ainda que operadas por controle remoto, chegam muito perto de uma máquina com autonomia para matar.

Impressionados e alarmados pelos avanços na inteligência artificial, um grupo de cientistas está debatendo se deve haver limites para avanços tecnológicos que podem levar a uma perda do controle humano sobre sistemas computacionais cada vez mais usados pela sociedade, seja em guerras ou num simples bate-papo ao telefone.

A preocupação é que avanços ainda maiores possam criar graves problemas sociais com consequências perigosas. Como exemplos, os cientistas citam várias tecnologias — tão diversas quanto sistemas médicos experimentais que interagem com pacientes para simular empatia e vírus de computador que desafiam as técnicas de extermínio e já teriam atingido o estágio “inseto” da inteligência mecânica.

Embora os cientistas concordem que ainda há um longo caminho a percorrer até Hal — o computador que assume o comando da nave em “2001: uma odisseia no espaço” —, eles acreditam que é legítima a preocupação de que o progresso tecnológico possa transformar o mercado de trabalho ao acabar com um grande número de empregos, bem como forçar seres humanos a viverem com um crescente número de máquinas.

Robôs capazes de matar já existem

Reunidos numa conferência em Asilomar, na Califórnia, cientistas especializados em computadores, inteligência artificial e robôs descartam a possibilidade de uma superinteligência altamente centralizada ou mesmo de que algum tipo de inteligência possa emergir espontaneamente na internet. Mas eles concordam que robôs capazes de matar de forma autômata já existem.

Os especialistas centraram atenção especial na ameaça de que criminosos poderiam explorar sistemas de inteligência artificial com objetivos espúrios. O que um criminoso poderia fazer com um sistema capaz de criar vozes similares às humanas? O que aconteceria se a tecnologia de inteligência artificial for usada para drenar informações pessoais de “smart” fones? Os pesquisadores também discutiram possíveis ameaças ao mercado de trabalho, representadas por carros que dispensam motoristas e serviços de robô em casa.

A conferência foi organizada pela Associação para o Avanço da Inteligência Artificial, que, ao escolher Asilomar como lugar das discussões, evocou, propositalmente um evento histórico da ciência. Em 1975, os maiores biólogos do mundo se reuniram em Asilomar para discutir a possibilidade de transformar formas de vida por meio da troca de material genético entre organismos e estabelecer parâmetros para tais experiências. Era o início da engenharia genética.

O encontro sobre o futuro da inteligência artificial foi organizado por Eric Horvitz, um pesquisador da Microsoft que, atualmente, é presidente da associação. Para ele, os cientistas computacionais devem estar aptos a debater noções de máquinas superinteligentes e de sistemas de inteligência artificial que fogem ao controle.

A ideia de uma “explosão de inteligência”, na qual máquinas projetariam outras máquinas ainda mais inteligentes foi proposta pelo matemático I.J. Good em 1965. Anos depois, em palestras e romances de ficção científica, o cientista Vernon Vinge popularizou a noção de que os seres humanos seriam capazes de criar uma máquina mais inteligente do que o homem, causando transformações tão rápidas que levariam ao “fim da era humana”.

A ideia, explorada no cinema e na literatura, é vista como plausível e inquietante, por cientistas como William Joy, co-fundador da Sun Microsystems. Outros especialistas em tecnologia, sobretudo Raymond Kurzwell, veem com entusiasmo o advento das máquinas inteligentes, dizendo que elas trarão grandes avanços para o aumento da expectativa de vida e a prosperidade em geral.

— Acredito que, cedo ou tarde, teremos que fazer algum tipo de declaração em resposta ao crescimento do número de pessoas muito preocupadas com o surgimento de máquinas inteligentes — afirmou Horvitz

Parâmetros serão divulgados

Um relatório sobre a conferência, que aconteceu a portas fechadas, será divulgado no fim do ano. O relatório abordará a possibilidade de “perda de controle humano de inteligências baseadas em computadores”. Também abordará, segundo Horvitz , questão éticas, legais e socioeconômicas, bem como as prováveis mudanças da relação entre seres humanos e computadores. Como será, por exemplo, se relacionar com uma máquina tão ou mais inteligente quanto seu parceiro?
(John Markoff, do The New York Times)
(O Globo, 28/7)


Chamem a BattleStar Galactica!! :-)

Abraços!
Carlão