Eu vi a Skynet nascer. E foi no SXSW. Oi?

Por Ana Nubié, Chief Strategy Officer na Moma Propaganda

Definição da Skynet, encontrada na Wikipédia (para aqueles mais novos e que nunca assistiram o filme “O Exterminador do Futuro”):

“Na série de filmes O Exterminador do Futuro, a Skynet é uma inteligência artificial altamente avançada criada no fim do século XX. Ela opera principalmente por meio de robótica avançada e sistemas de computador. Assim que se tornou autoconsciente de si mesma, ela viu a humanidade como uma ameaça à sua existência e decidiu acionar o holocausto nuclear conhecido como “Dia do Julgamento” e enviar um exército de Exterminadores contra a humanidade”.

No dia de hoje assisti à palestra da Martine Rothblatt sobre Inteligência Artificial, Imortalidade e o Futuro dos “Eus”. Os “Eus” são nossas personalidades e para onde elas irão quando morremos.

Rothblatt tem um projeto de desenvolvimento de inteligência artificial, com o objetivo de permitir que as pessoas criem um espelho da sua própria consciência em inteligências cibernéticas, que poderiam sobreviver às suas mortes e teriam liberdade intelectual para discordar e, até mesmo, divorciar-se de seus criadores.

Aparentemente todas as respostas para os limites éticos e filosóficos do projeto foram estudadas, mas ao ouvir a palestra não só me lembrei da Skynet como também de outra clássica cena de cinema, de Blade Runner.

Quando um dos clones, em fúria, encontra-se finalmente com seu criador e o questiona sobre o sentido da vida que ele lhe deu, tal qual cada um de nós conversa com o deus da sua crença. O homem havia se colocado no lugar da divindade e perdido o controle da criatura.

Escrevo tudo isso para dizer que a tecnologia costumeiramente me inspira. Sou uma fã de primeira hora de todos os avanços da ciência.

Mas hoje, ouvindo as afirmações daquela empreendedora, percebi pela primeira vez os riscos que o nosso crescente poder na área da ciência da computação pode trazer.

Inteligência, conhecimento, consciência são elementos fundamentais na construção das relações de valor e poder de nossa sociedade.

Hoje já há redações de jornais onde as notícias standard (previsão do tempo, cotações de bolsa, etc) são geradas automaticamente por computadores.

Desejo que a produção de conhecimento e a consciência não sejam terceirizados para os computadores. Nem tudo que pode ser feito é o melhor a ser feito.

Assim hoje vivi os primórdios daquela que, tenho certeza, será uma das mais calorosas e profundas discussões da nossa era: não mais a privacidade dos nossos dados, mas a privacidade da nossa consciência.

* Este artigo foi publicado originalmente no site Meio & Mensagem.