New York City richt een bureau op met 36 datawetenschappers, technologen en economen om bedrijfsgegevens te analyseren. Het team moet mogelijke overtredingen opsporen rond prijsstelling, lonen en andere bescherming van consumenten en werknemers.
De stad breidt daarmee haar technische capaciteit uit op een moment dat algoritmes en kunstmatige intelligentie een grotere rol krijgen bij het vaststellen van prijzen en beloningen. Sam Levine, commissaris voor Consumer and Worker Protection in New York City, zegt dat het initiatief is bedoeld om bestaande wetgeving beter te kunnen handhaven.
Analyse van bedrijfsgegevens
De nieuwe eenheid krijgt toegang tot bedrijfsrecords om te zoeken naar aanwijzingen voor mogelijke schendingen. New York kiest dus niet voor nieuwe regels, maar voor gespecialiseerde kennis om de bestaande regels toe te passen op geautomatiseerde bedrijfsprocessen.
De samenstelling van het bureau is daarbij opvallend. Datawetenschappers, technologen en economen worden samengebracht rond dezelfde toezichtstaak. De stad verbindt daarmee prijsbeleid en beloning nadrukkelijk aan de technische systemen die zulke uitkomsten helpen bepalen.
Voor bedrijven komt het zwaartepunt te liggen bij de gegevens achter geautomatiseerde beslissingen. De aankondiging noemt specifiek prijzen, lonen en andere consumenten- en werknemersbescherming als terreinen waarop het bureau mogelijke overtredingen gaat onderzoeken.
Financiële chatbots maken vaak fouten
De noodzaak van controle op AI-systemen speelt ook aan de kant van financiële informatie voor consumenten. Een rapport waarover de Financial Times bericht, concludeert dat AI-chatbots financiële vragen meestal onjuist beantwoorden. Sommige chatbots negeerden naderende belastingwijzigingen en verzonnen regels.
Dat onderzoek gaat over een andere toepassing dan die van het nieuwe bureau in New York. De chatbots geven informatie als antwoord op financiële vragen, terwijl New York bedrijfsdata wil analyseren om mogelijke overtredingen bij prijsstelling en beloning te vinden. Beide ontwikkelingen laten wel zien dat AI en algoritmes inmiddels worden ingezet op terreinen waar consumenten en werknemers direct mee te maken krijgen.
New York kiest voor een eigen team van 36 specialisten om de handhaving technisch te versterken. Het chatbotonderzoek onderstreept tegelijk dat systemen die financieel klinkende antwoorden produceren, fouten kunnen maken over regels en wijzigingen in belastingbeleid.