Questões
1. Poderia começar nos falando sua área principal de atuação, comentando seu trabalho atual relacionado à IA?
2. A seu ver, haveria necessidade e daí, em decorrência, também possibilidade de uma lei mundial que objetive a regulação da IA em termos globais, ainda que estabelecendo apenas patamares mínimos?
3. Como se daria o assim denominado “trade-off” entre inovação e regulação? Ou a regulação por si só iria impedir ou comprometer a inovação e a competição internacional? Segundo Daniel SOLOVE, no livro Nothing to hide. The false tradeoff between privacy and security (Yale University Press, 2011), esta seria uma concepção equivocada. Poderia comentar sobre tal ponto?
4. Tomando como exemplo paradigmático na área de proteção de dados do LIA – avaliação de legítimo interesse, previsto na LGPD e no GDPR da União Europeia como sendo um documento obrigatório de compliance, quando da utilização da base legal de tratamento de dados pessoais, qual seja, do legítimo interesse, onde há, por exemplo, uma análise/teste de proporcionalidade, vc. entende que seria possível a criação de um “framework” voltado à proteção de direitos fundamentais embutido em um documento específico, a AIIA – Avaliação de Impacto Algorítmico? Isso no sentido de se estabelecer, após uma análise via ponderação, medidas de mitigação de riscos a tais direitos, que sejam adequadas, necessárias e proporcionais em sentido estrito.
5. O que se entende por governança de IA? Qual a relação que você vê entre inovação, tecnologia e Direito?
6. Na Bienal de arquitetura de Veneza deste ano (2023) o tema do pavilhão brasileiro é a Terra e a ancestralidade, ou seja, a decolonização e o Brasil (“De-colonizando o cânone”, pavilhão “Terra”, do Brasil, na Bienal de Veneza). Seria possível fugir de tal lógica colonialista, também presente nas áreas de IA/dados?
7. Quais os principais desafios atualmente com o avanço da IA, considerando a polêmica com o ChatGPT e a “moratória” solicitada em carta/manifesto assinada por Elon Musk e outros expoentes?
Questions
1. What is your area of expertise? Would you start telling us about your work related to AI?
2. Do you think there is a need, and therefore also the possibility for a worldwide law to regulate AI globally, fixing at least minimum standards?
3. How would the so-called “trade-off” between innovation and regulation work? Or would regulation by itself prevent or compromise innovation and international competition? According to Daniel SOLOVE, in his book “Nothing to hide. The false tradeoff between privacy and security” (Yale University Press, 2011), this would be a mistaken concept. Could you comment on this point?
4. Taking as a paradigmatic example in the area of data protection the LIA – the evaluation of legitimate interest, provided in the Brazilian LGPD and in the GDPR of the European Union as being a mandatory compliance document, when using the legal basis for processing personal data, that is, the legitimate interest (measured by a proportionality analysis/test), would it be possible to create a “framework” aiming to protect fundamental rights embedded in a specific document, the AIIA – Algorithmic Impact Assessment? And thus establishing, after a weighted analysis, adequate, necessary and strictly proportional risk mitigation measures to such rights.
5. What is to you meant by AI governance? What relationship do you see between innovation, technology and law?
6. In this year’s Venice Architecture Biennale (2023) the theme of the Brazilian stand is “Earth and ancestry”, that is to say, decolonization and Brazil (“De-colonizing the canon”, Brazil’s “Earth” pavilion at the Venice Biennale). Would it be possible to escape such colonialist logic, which is also present in the AI/data areas?
7. What are the main challenges today with the advancement of AI, and after the controversy with ChatGPT and the “moratorium” requested in a letter/manifesto by Elon Musk and other leading figures?
Português (Tradução de Paola Cantarini)
1) Sou um narratologista cognitivista e a minha investigação, desde o início da minha carreira, centrou-se na estrutura lógica das narrativas teorizada pelo estruturalismo narratológico da escola de Paris, em particular por Claude Bremond e pela semiótica de Umberto Eco e Roland Barthes. No entanto, tentei combinar o estruturalismo com a lógica binária dos programas electrónicos de bases de dados (Paradox). Desta forma, ensinei uma inteligência algorítmica com o Paradox a ler uma aventura erótica de Giacomo Casanova, e passei a utilizar o software Plots Unlimited para criar narrativas automáticas e verificar a coerência dos guiões dos operadores humanos.
2) Sim, sou a favor de uma regulamentação internacional, mesmo que mínima, da utilização da IA, mas sou pessimista quanto ao cumprimento efetivo dessa regulamentação por parte das empresas e dos governos.
3) Aplicam-se os mesmos conceitos expressos na resposta anterior. A investigação deve ser livre de seguir as suas próprias intuições. Naturalmente, o importante é que não ponha em causa a liberdade e a segurança dos indivíduos. Mas isso já está a acontecer hoje em dia com a construção de software de defesa cada vez mais atualizado contra a cibercriminalidade de grupos mafiosos e governos ditatoriais.
4) Sim, concordo com um “quadro” que visa proteger os direitos fundamentais.
5) Numa governação da IA, muitas inovações, muitas tecnologias e um conjunto essencial de regras.
6) Meus parabéns ao stand brasileiro da Bienal de Arquitetura de Veneza 2023 intitulado “Terra e ancestralidade, mas na verdade não acho possível uma descolonização mesmo com a ajuda da IA enquanto a IA for pensamento científico. A inteligência artificial é um conceito filosófico que depois é um procedimento algorítmico e para sair do terceiro colonialismo, o da mente, é preciso difundir um novo humanismo científico e libertar muitas pessoas da ignorância e este projeto demora décadas.
7) Penso que é uma “captatio benevolentiae” hipócrita com os governos europeus para obter fundos para a investigação e para a realizar. reduzir os impostos sobre os lucros das suas empresas na Europa.
Answers (texto original)
- I am a cognitivist narratologist, and my research since the beginning of my career has been on the logical structure of narratives theorized by the narratological structuralism of the Paris school, especially by Claude Bremond and the semiotics of Umberto Eco and Roland Barthes. However, I have tried to combine structuralism with the binary logic of electronic database programs (Paradox). In this way I taught with Paradox an algorithmic intelligence how to read an erotic adventure by Giacomo Casanova, I continued by using the software Plots Unlimited to create automatic narratives and check the consistency of human operators’ scripts.
- Yes I am in favor of even minimal international regulations governing the use of Ai but I am pessimistic about the actual compliance of these regulations by companies and governments.
- The same concepts expressed in the previous answer apply. Research must be free to follow its insights. Of course the important thing is that it does not endanger the freedom and security of individuals. But this is already happening today with the construction of increasingly up-to-date defense software against cybercrime by mafia groups as well as dictatorial governments.
- Yes I agree with a “framework” aiming to protect fundamental rights.
- In a AI governance, many innovations, many technologies and un essential set of rules.
- My congratulations to the Brazilian stand of Venice Architecture Biennale 2023 titled “Earth and ancestry, but actually I don’t think possible a decolonization even with the help of AI while the AI is scientific thinking. Artificial intelligence is a philosophical concept that later is an algorithm procedure and to get out of the third colonialism, that of the mind, a new scientific humanism must be spread and many people freed from ignorance and this project takes decades.
- I believe it is a hypocritical “captatio benevolentiae” with the European governments to obtain funds for research and to get it done. reduce taxes on the profits of its companies in Europe.