’Social orden kunne kollapse’ i AI-æraen, siger to top japanske virksomheder

Japans største telekommunikationsselskab og landets største avis opfordrede til hurtig lovgivning for at begrænse generativ kunstig intelligens og sagde, at demokrati og social orden kunne kollapse, hvis AI forlades ukontrolleret. De japanske virksomheders manifest, der pegede på de potentielle fordele ved generativ kunstig intelligens til at forbedre produktiviteten, havde et generelt skeptisk syn på teknologien. Uden at give nærmere oplysninger, sagde det, at AI-værktøjer allerede er begyndt at skade den menneskelige værdighed, fordi værktøjerne nogle gange er designet til at fange brugernes opmærksomhed uden hensyn til moral eller nøjagtighed. Medmindre kunstig intelligens er tilbageholdt, "i værste fald kan demokrati og social orden kollapse, hvilket resulterer i krige," hedder det i manifestet. Den sagde, at Japan skulle træffe foranstaltninger med det samme som reaktion, herunder love for at beskytte valg og national sikkerhed mod misbrug af generativ AI. Et globalt skub er på vej for at regulere kunstig intelligens, med EU i spidsen. EU’s nye lov opfordrer producenter af de mest kraftfulde AI-modeller til at sætte dem igennem sikkerhedsevalueringer og underrette regulatorer om alvorlige hændelser. Det er også indstillet til at forbyde brugen af AI med følelsesgenkendelse i skoler og på arbejdspladser. Biden-administrationen øger også tilsynet og påberåber sig føderale nødbef&oslas…  h;jelser i oktober sidste år for at tvinge store AI-virksomheder til at underrette regeringen, når de udvikler systemer, der udgør en alvorlig risiko for den nationale sikkerhed. USA, Storbritannien og Japan har hver især oprettet regeringsledede AI-sikkerhedsinstitutter for at hjælpe med at udvikle AI-retningslinjer. Alligevel kæmper regeringer i demokratiske nationer for at finde ud af, hvordan man regulerer AI-drevet tale, såsom aktivitet på sociale medier, givet forfatningsmæssig og anden beskyttelse af ytringsfriheden. NTT og Yomiuri sagde, at deres manifest var motiveret af bekymring over den offentlige diskurs. De to virksomheder er blandt Japans mest indflydelsesrige inden for politik. Regeringen ejer stadig omkring en tredjedel af NTT, tidligere det statskontrollerede telefonmonopol. Yomiuri Shimbun, som har et morgenoplag på omkring seks millioner eksemplarer ifølge industriens tal, er Japans mest læste avis. Under den afdøde premierminister Shinzo Abe og hans efterfølgere har avisens konservative redaktionelle linje haft indflydelse på at presse det regerende Liberal Democratic Party til at udvide militærudgifterne og uddybe nationens alliance med USA. De to virksomheder sagde, at deres ledere har undersøgt virkningen af generativ AI siden sidste år i en studiegruppe guidet af Keio University-forskere.