Anthropic-grunnlegger Chris Olah roser pave Leo 14. for å ta opp farene ved kunstig intelligens. Han sier teknologiselskapene trenger kritikere utenfra som kan presse dem til å gjøre det rette.
Anthropic-grunnlegger Chris Olah sier at pave Leo 14.s nye skriv om kunstig intelligens kommer på et viktig tidspunkt. Mandag 25. mai deltok Olah under presentasjonen av pavens skriv «Magnifica humanitas» i Vatikanet.
I talen gjorde Olah det klart at Anthropic ser positivt på at kirken engasjerer seg i spørsmålene som kunstig intelligens reiser.
– Det er gjennom dialog og felles innsats, gjennom press og motpress, at menneskeheten vil oppnå store ting. Det er dette jeg ser i «Magnifica humanitas», og det er derfor jeg er takknemlig for at Hans Hellighet og kirken tar opp dette arbeidet med dømmekraft, sa Olah.
Han understreket at Anthropic ønsker en bredere samtale om kunstig intelligens, ikke bare en samtale styrt av teknologiselskapene selv.
Ber om kritikk utenfra
Olah sa at alle ledende KI-selskaper, også Anthropic, virker under press som kan stå i veien for gode valg. Han nevnte ønsket om å være lønnsom, behovet for å ligge først i forskningen, geopolitisk press, stolthet og ambisjon.
– Uansett hvor oppriktig noen av oss ønsker å gjøre det rette, og jeg tror mange av oss gjør det, vil vi alltid bli påvirket av disse kreftene, sa han.
Derfor mener han at kirken og andre aktører utenfor KI-industrien spiller en viktig rolle.
Les også: Video: Den katolske kirke bekrefter viral «paverave» – opptaket var ekte
– Hvis vi vil at denne teknologien skal gå godt, er det svært viktig at det finnes mennesker utenfor disse kreftene, mennesker som bryr seg om at det går godt og som insisterer på trygghet, sa Olah.
Han la til at verden trenger folk som følger nøye med, sier vanskelige ting og er villige til å være «oppriktige og gjennomtenkte kritikere».
Mener KI er mer enn teknologi
Olah avviste at kunstig intelligens først og fremst er et spørsmål for dataforskere.
– De tar feil. Spørsmålene som kunstig intelligens reiser, er større enn KI-forskningen, ikke bare i konsekvensene, men også i sin natur, sa han.
Han beskrev KI-systemer som noe annet enn vanlige maskiner. De er ikke bygget på samme måte som en bro eller et fly, men vokser fram fra enorme mengder menneskelig språk og tanke.
– De er laget av oss, av våre ord, og som Den hellige far bemerker, forblir de på viktige måter gåtefulle selv for dem av oss som trener dem, sa Olah.
Anthropic-grunnleggeren pekte særlig på tre spørsmål der han mener kirken har en viktig stemme: ansvar for verdens fattige, menneskelig blomstring i en KI-tid og spørsmålet om hva KI-modeller egentlig er.
– Vi trenger moralske stemmer som interessene ikke kan bøye, sa Olah.
