Flaming, griefing och hets mot folkgrupp. Spelutvecklare har länge kämpat mot olika typer av toxiska beteenden som förekommer i spelvärlden. Nu tar speljätten Activision till ett nytt vapen: En AI som ska tjuvlyssna på spelarnas röstkonversationer.

Call of Duty blir den första större spelserien att använda AI för att bekämpa toxiskt beteende i röstchattarna, enligt ett pressmeddelande från spelutvecklaren Activision.

Spelet kommer att använda sig av röstmodereringsverktyget Toxmod från företaget Modulate.

Ska skilja på skämt och allvar

Toxmod har redan tagits i bruk på den nordamerikanska marknaden och ska enligt egen utsago kunna upptäcka ”hets mot folkgrupp, diskriminerande språkbruk, trakasserier, med mera” i realtid. Det ska också kunna skilja på vänskapliga skämt och genuint toxiska beteenden.

AI:n kommer inte kunna döma och straffa spelare. Verktyget ska endast observera och skicka vidare rapporter om misstänkta konversationer. Hur eventuella åtgärder sedan verkställs ger företaget inga detaljer om.

Än så länge används den bara för konversationer på engelska, men fler språk ska tillkomma på sikt.

E-sporteleven: ”Försöker behålla lugnet”

På Tumba gymnasium har eleverna nyligen fått möjlighet att lägga till e-sport som ett individuellt val eller som en del av en lokal idrottsutbildning.

När SVT Nyheter kommer på besök har e-sportläraren Lukas Hepokangas precis haft en lektion i etik och moral i gamingvärlden.

– Vi gick igenom Svenska e-sportförbundets uppförandekod. Det är som med all annan idrott – det förekommer tyvärr tråkigheter.

Eleven Ahmad Allolah säger att det oftast handlar om svordomar från med- eller motspelare.

– Men i extrema fall är det homofobiska och rasistiska kommentarer.

Hur ofta förekommer toxiskt beteende i spelen egentligen? Se hur det gick när 15 elever spelade i 45 minuter i klippet.