Na inteligência artificial, surge um problema de alinhamento quando o comportamento de um sistema não mantém os valores pretendidos por seus projetistas, particularmente quando sistemas de IA são usados para resolver problemas sociais complexos.
Estudo as relações sociais entre máquina e ser humano, principalmente em colaboração com robôs artificialmente inteligentes. No decorrer do meu trabalho, observei como os humanos se relacionam com as máquinas em um nível social, e como as pessoas descrevem relações com as máquinas que são muito semelhantes às relações com outros humanos: íntimas, amigáveis, medrosas, antagônicas, ou com o nome que você quiser atribuir. A máquina de escrever da minha tia-avó é, ela própria, um membro da família. Ao longo de anos guardei rancores contra portas não colaborativas. O senso comum pode dizer que as máquinas são coisas inertes, frias, insensíveis que não merecem consideração social, mas essa atitude cultural predominante nem sempre condiz com o que as pessoas encontram em suas vidas diárias. E quando se trata de projetar e implantar máquinas, envolvam elas IA ou não, há sempre um aspecto social que torna o resultado imprevisível.
Produzimos sentido juntos
Faço o melhor para respeitar e entender as máquinas nos termos delas, em vez de esperar que elas sejam como os humanos. No entanto, não posso fingir que me deparo com elas em um vácuo. Como designer, tenho uma relação íntima com as máquinas que projeto, tanto nos termos das minhas intenções para com elas quanto nos termos da cultura de encontros máquina-humano inerentes ao contexto em que vivemos. Só aprendo o verdadeiro significado das máquinas depois que elas entram no mundo, refletindo sobre suas interações comigo e com outros humanos. Produzimos sentido juntos, independentemente das minhas intenções como projetista, em meio à bagunça do dia a dia. No mundo, as entidades são constantemente descontextualizadas e recontextualizadas. Nunca pode haver uma garantia de que as intenções de um designer, ou mesmo seus valores, serão mantidos.Isso não é necessariamente ruim. No campo do projeto de um novo instrumento musical, é sabido que um intérprete raramente o tocará de acordo com a função pretendida para ele. Parte disso vem de práticas musicais contemporâneas de técnicas estendidas (como desaparafusar válvulas de trompete enquanto toca), e parte vem da novidade e da falta de pedagogia relacionada a novos instrumentos. De qualquer forma, a expressão artística sempre pode ultrapassar os limites de qualquer conjunto de regras, de qualquer expectativa. Eu diria até que é desejável que um instrumento musical inspire comportamentos inesperados. Da mesma forma, máquinas autônomas (artificialmente inteligentes ou não) são frequentemente valorizadas na arte contemporânea justamente por seu potencial de produzir resultados inesperados. Existe uma colaboração máquina-humano em ação para descobrir o que é possível fazer e para encontrar significado. Nada pode sair exatamente como planejado. Isso, claro, pode dar errado, como aconteceu com o chatbot “Tay” da Microsoft, que teve que ser desligado depois que usuários ensinaram o bot a produzir conteúdos inflamatórios e ofensivos.
Podemos criar um deus digital?
Então, por que eu deveria esperar que uma máquina incorpore perfeitamente os valores que prezo? E por que eu deveria querer uma máquina para preservar meus valores atuais, quando eu mesmo estou constantemente crescendo e mudando no mundo? Parece-me que “o problema do alinhamento” é um problema que vem com a tentativa de transferir questões morais para sistemas de máquinas. Podemos criar uma máquina que garanta a equidade nas práticas de contratação corporativas? Podemos criar uma máquina que corrija o preconceito racial na aplicação da lei? Podemos criar uma máquina para nos governar com benevolência em direção à prosperidade coletiva? Que tal uma máquina para alcançar esclarecimento espiritual em nosso nome? Ou, em relação à busca por inteligência artificial “geral”, podemos criar uma máquina onisciente e onipotente? Podemos criar um deus digital? Esse tipo de pergunta é, para mim, fundamentalmente equivocado.Confiar em máquinas para resolver nossos problemas equivale a abdicar da responsabilidade. Elas podem ser capazes de nos ajudar a realizar certos sonhos, em colaboração conosco, mas não é garantido, e nem se deve esperar, que seu comportamento corresponda autonomamente às nossas intenções. Um robô espiritual ou um deus digital só existem dentro de um sistema homem-máquina maior que omantenha.
A IA não é uma varinha mágica capaz de “resolver” problemas sociais
Até agora tenho usado a palavra máquina em um sentido que implica um tipo artificial e inteiramente não humano de entidade. No entanto, máquina é um conceito múltiplo que pode incluir humanos. Por exemplo, “máquina social” é um termo usado para máquinas distribuídas que compreendem componentes artificiais e biológicos (humanos), como organizações e burocracias. Então, já estamos criando e sempre projetamos máquinas com vistas a resolver problemas sociais confusos, para chegar ao esclarecimento, para realizar valores e sonhos coletivos. São máquinas complicadas, cheias de contradições e falhas. Com quais valores, ou seja, com os valores de quem as máquinas sociais se alinham? Certamente o trabalho de alinhamento é igualmente confuso, uma luta entre valores diferentes, sonhos diferentes, humanos e máquinas diferentes. Mesmo com o projeto mais rigoroso e cuidadosamente implementado, os resultados de um sistema complexo não podem ser totalmente previstos.Não estou aqui para negar as consequências de amplo alcance da implementação de sistemas de IA na sociedade. Há uma tremenda responsabilidade na implantação desses sistemas. Mas, em última análise, eles são componentes de máquinas sociais maiores e exigem um trabalho de alinhamento contínuo e colaborativo para promover um determinado conjunto de valores. Um problema de alinhamento é algo que existe não apenas em um produto específico de IA, mas na maquinaria que o produz. Em outras palavras, a IA não é uma varinha mágica capaz de “resolver” problemas sociais complexos. Para que um sistema de IA incorpore ou promova um conjunto de valores, esses valores já devem estar presentes no processo de design. Isso significa aplicar esses valores a cada etapa do processo — coleta de dados, treinamento, teste, implantação — e, crucialmente, continuar a aplicá-los na manutenção e no redesenho. Os problemas de alinhamento não são apenas discretos, mas sistêmicos.
Então, quando você ouvir um bilionário ou um analista descrevendo suas esperanças e seus medos em torno da IA, lembre-se de que eles estão fazendo um trabalho para alinhar nossos esforços coletivos com seus valores. Uma máquina pode incorporar um determinado conjunto de valores quando entra no mundo, mas isso é apenas parte da história. O trabalho de alinhamento é contínuo, colaborativo e nunca completo. O problema do alinhamento pode ser resolvido? Acho que não, a não ser que a própria sociedade possa ser “resolvida”. Não importa o quão sofisticada seja uma inteligência artificial, não importa o quão perfeita seus criadores afirmam que ela é, ela nunca se comportará como pretendido. Sempre haverá espaço para realinhamento.