简体 繁體 日本語 한국어 English Deutsch Français Italiano Español Português Русский Türkçe Українська עברית Bahasa Indonesia العربية

Responsabilità e rendicontazione

Leggi l’edizione PDF (4 pagine)

L’istituto resta responsabile

Chi risponde quando un sistema di intelligenza artificiale commette un errore? Finora Singapore ha risposto a questa domanda senza nuove leggi. L’istituto che impiega un modello resta responsabile dei suoi risultati come di qualsiasi altro processo. I FEAT Principles del 2018 affermavano già che le imprese rispondono allo stesso modo dei modelli sviluppati internamente e di quelli acquisiti dall’esterno. Le Guidelines del 2026 lo confermano per l’IA di terzi e affidano la supervisione al consiglio di amministrazione, che resta responsabile anche quando si avvale di esperti interni o esterni all’impresa.1

I doveri che un istituto ha nei confronti dei propri clienti non mutano quando si utilizza un modello. Una banca che respinge una domanda di prestito, una compagnia di assicurazione che rifiuta una copertura e un rappresentante che raccomanda un prodotto restano soggetti alle norme sulla correttezza nei rapporti con la clientela, sull’informativa e sull’adeguatezza previste dalle leggi descritte nella parte E. I FEAT Principles aggiungono un elemento di equità procedurale: gli interessati dovrebbero disporre di canali per chiedere il riesame delle decisioni basate sull’IA, nel quale si tenga conto dei dati integrativi verificati da essi forniti.2 Le Guidelines definitive traducono ciò nell’aspettativa che gli usi ad alto rischio, in particolare quelli che incidono sui risultati per la clientela, siano soggetti a una supervisione umana più intensa e a gradi di autonomia più bassi. La MAS porta l’esempio del riesame umano di tutte le decisioni in materia di concessione del credito o di assunzione dei rischi assicurativi e riconosce inoltre i meccanismi di rinvio della decisione che trasferiscono i casi a una persona quando vengono superate soglie predefinite.3

La responsabilità individuale dei dirigenti di vertice

La responsabilità grava anche sulle persone fisiche. Il 10 settembre 2020 la MAS ha emanato le Guidelines on Individual Accountability and Conduct, efficaci dal 10 settembre 2021. Esse impongono agli istituti di individuare i dirigenti di vertice responsabili delle funzioni essenziali e di renderli responsabili dell’operato dei propri dipendenti e della conduzione dell’attività di loro competenza. Il personale che assume rischi rilevanti deve possedere i requisiti di idoneità e onorabilità (fit and proper) ed essere soggetto a un’efficace governance dei rischi.4 Un modello che prende decisioni sul credito o monitora le transazioni rientra nella sfera di competenza di un dirigente di vertice identificabile. Quando il modello sbaglia, la questione è se quel dirigente abbia esercitato una supervisione adeguata, e l’uso dell’intelligenza artificiale non offre alcun riparo da tale questione.

Contratti conclusi da algoritmi: Quoine v B2C2

I tribunali di Singapore si sono già confrontati con la questione di come il diritto dei contratti si applichi quando sono le macchine a concludere le operazioni. Quoine Pte Ltd v B2C2 Ltd trae origine da negoziazioni su una piattaforma di scambio di criptovalute del 19 aprile 2017, quando un errore nei sistemi della piattaforma indusse l’algoritmo di trading di B2C2 ad acquistare Bitcoin con Ethereum a circa 250 volte il tasso di mercato. Quando Quoine stornò le operazioni, B2C2 agì in giudizio. La Singapore International Commercial Court diede ragione a B2C2. Il 24 febbraio 2020 la Court of Appeal, in una composizione che comprendeva due giudici internazionali, ha confermato a maggioranza l’accertamento della responsabilità di Quoine per inadempimento contrattuale, riformando invece l’accertamento della violazione del trust.5

La maggioranza ha ritenuto che gli algoritmi in questione fossero deterministici: avrebbero sempre prodotto lo stesso output a partire dallo stesso input e facevano soltanto ciò per cui erano stati programmati. Quando i contratti sono conclusi tra algoritmi di questo tipo, la conoscenza rilevante ai fini della dottrina dell’errore unilaterale è quella dei programmatori al momento della programmazione, insieme a ogni conoscenza successiva qualora un programmatore abbia lasciato operare l’algoritmo per sfruttare un errore. La questione è se il programmatore, sapendo che un’offerta sarebbe stata accettata soltanto da una parte in errore, abbia programmato l’algoritmo per approfittarne.6 Lord Mance ha espresso un’opinione dissenziente: egli si sarebbe chiesto come un qualsiasi operatore ragionevole della piattaforma, consapevole di ciò che stava accadendo, avrebbe considerato le operazioni, e in base a tale criterio le operazioni sarebbero state annullabili in equity per errore unilaterale.7

La decisione è un precedente di riferimento nel mondo di common law in materia di contrattazione algoritmica, e i suoi limiti sono altrettanto istruttivi. La maggioranza ha ragionato a partire dal carattere deterministico degli algoritmi, mentre i sistemi generativi e agentici sono probabilistici e possono produrre output diversi a partire dallo stesso input. Se lo stato soggettivo del programmatore resti il giusto punto di riferimento per tali sistemi è una questione aperta, che la Court of Appeal non era chiamata a decidere. Il ruolo della Singapore International Commercial Court nelle controversie commerciali di questo tipo è esaminato nella parte F.

Protezione dei dati e riservatezza

La responsabilità può derivare anche dal diritto della protezione dei dati. Il Personal Data Protection Act 2012 si applica alla raccolta, all’uso e alla comunicazione di dati personali nella progettazione e nell’impiego di sistemi di IA, come confermano le linee guida interpretative della PDPC.8 Le sanzioni pecuniarie per le violazioni possono raggiungere il dieci per cento del fatturato annuo di un’organizzazione a Singapore qualora tale fatturato superi S$ 10 milioni, e S$ 1 milione negli altri casi.9 Per le banche, l’obbligo legale del segreto bancario impone un vincolo ulteriore sui dati della clientela che possono essere trasmessi a fornitori esterni di modelli. Le garanzie contrattuali e tecniche osservate dalla MAS, come i cloud privati, i server on-premise e gli strumenti di prevenzione della perdita di dati, rispondono a questo vincolo.10

I tribunali e l’IA generativa

I tribunali hanno fissato lo standard per i propri utenti. La Guide on the Use of Generative Artificial Intelligence Tools by Court Users, emanata per la Supreme Court con il Registrar’s Circular No. 1 of 2024 e adottata dalle State Courts e dalle Family Justice Courts, non vieta l’uso di tali strumenti. Essa stabilisce tuttavia che gli utenti dei tribunali sono “fully responsible for the content in all your Court Documents” e devono verificare che i riferimenti a giurisprudenza, normativa, manuali e articoli esistano e sostengano le affermazioni per le quali sono citati. Una dichiarazione sull’uso dell’IA generativa è richiesta soltanto quando il tribunale la domanda.11

Nel 2025 è seguita una sanzione. In Tajudin bin Gulam Rasul v Suriaya bte Haja Mohideen il difensore aveva citato un precedente inesistente prodotto da uno strumento di IA generativa e lo aveva ammesso soltanto quando interrogato. L’assistant registrar ha stabilito che l’obbligo di verificare le fonti non è delegabile, che addossare la colpa a un giovane avvocato non aveva alcun peso e che il tribunale può condannare personalmente il difensore al pagamento delle spese. Il difensore è stato condannato a versare S$ 800 alla controparte.12 Benché il caso riguardi un avvocato, il principio si estende agevolmente alla finanza: il professionista che firma un documento è responsabile del suo contenuto, indipendentemente dallo strumento utilizzato per redigerlo. I compliance officer, gli analisti e i consulenti che si affidano all’IA generativa si trovano nella stessa posizione del difensore davanti al tribunale.

Attenzione

Affidare un compito a un modello ne trasferisce l’esecuzione, mentre la responsabilità resta dov’era. Un istituto finanziario resta responsabile nei confronti dei propri clienti e della MAS per ogni decisione supportata dall’intelligenza artificiale, comprese quelle supportate da modelli di terzi il cui funzionamento non può esaminare integralmente. I contratti con i fornitori ripartiscono i costi tra le parti, ma questa responsabilità regolamentare rimane in capo all’istituto.

Note

  1. MAS, FEAT Principles (sopra), principio 8 – MAS, Response to Feedback, 7 ottobre 2026, par. 4.10(a): la consulenza ricevuta da esperti “is not a substitute for the board’s own oversight responsibilities. The board remains accountable”. ↩
  2. MAS, FEAT Principles (sopra), principi 10 e 11. ↩
  3. MAS, Response to Feedback, 7 ottobre 2026, parr. 10.48–10.50. ↩
  4. MAS, Guidelines on Individual Accountability and Conduct, data di emanazione 10 settembre 2020, data di efficacia 10 settembre 2021, par. 3, Outcomes 1–5. ↩
  5. Quoine Pte Ltd v B2C2 Ltd [2020] SGCA(I) 2, Civil Appeal No 81 of 2019 (elitigation.sg, consultato a novembre 2026): udienza del 14 ottobre 2019, sentenza del 24 febbraio 2020; coram Sundaresh Menon CJ, Andrew Phang Boon Leong JA, Judith Prakash JA, Robert French IJ e Jonathan Mance IJ; sentenza di maggioranza redatta da Menon CJ; appello respinto quanto all’inadempimento contrattuale e accolto quanto alla violazione del trust. ↩
  6. Quoine v B2C2 [2020] SGCA(I) 2 a [15], [96]–[99] e [103]: un algoritmo deterministico “will always produce precisely the same output given the same input”; conoscenza da valutare “by reference to the state of mind of the programmers of the algorithms at the time of the programming”. ↩
  7. Quoine v B2C2 [2020] SGCA(I) 2 a [183], [194]–[195] e [200] (Mance IJ, opinione dissenziente). ↩
  8. PDPC, Advisory Guidelines, 1º marzo 2024, Part II, sezione 2, e Part IV, sezione 8 (“PDPA Applies to Collection and Use of Personal Data in AI Systems”). ↩
  9. Personal Data Protection Act 2012, s. 48J(3), come modificato dal Personal Data Protection (Amendment) Act 2020, in vigore dal 1º ottobre 2022. ↩
  10. MAS, Information Paper, dicembre 2024, sezione 7.1 (panoramica): mitigazione dei rischi per la sicurezza dei dati “via measures such as the use of private clouds or on-premise servers, data loss prevention tools, and limiting the access of Generative AI to more sensitive information”. ↩
  11. Tajudin bin Gulam Rasul and another v Suriaya bte Haja Mohideen [2025] SGHCR 33 a [37]–[39], che cita i parr. 3(1), 3(3), 5(1) e 5(3)(c) della Guide; Supreme Court Registrar’s Circular No. 1 of 2024, State Courts Registrar’s Circular No. 9 of 2024 e Family Justice Courts Registrar’s Circular No. 1 of 2024. ↩
  12. Tajudin bin Gulam Rasul and another v Suriaya bte Haja Mohideen [2025] SGHCR 33 (AR Tan Yu Qing, motivazione della decisione del 29 settembre 2025) a [11], [34], [40], [44], [52], [93] e [99]–[101]. ↩

Solo a scopo informativo generale. Il presente articolo non costituisce consulenza legale o fiscale, non sostituisce la consulenza sul singolo caso e non instaura alcun rapporto tra avvocato e cliente. Riflette la situazione giuridica aggiornata a novembre 2026.

Intende insediarsi o espandersi a Singapore?

SingaporeIQ è curato dal Dr Alexander Ressos, avvocato d’affari internazionale con oltre 15 anni di esperienza sul posto a Singapore come residente permanente, avvocato straniero registrato a Singapore e managing partner di uno studio legale straniero a Singapore. Oltre a una significativa esperienza in investimenti e operazioni transfrontaliere, nell’assistenza a clienti privati UHNWI e in materia di sanzioni e controlli sulle esportazioni, il Dr Ressos vanta un’ampia esperienza negli affari transfrontalieri e nei progetti relativi a cripto-attività e asset digitali a Singapore, maturata in oltre 700 progetti dal 2017.

Se sta pianificando la costituzione di una società, un investimento, una struttura di holding o l’ingresso in un mercato tramite Singapore, può contattare il Dr Ressos direttamente all’indirizzo [email protected]. La consulenza sul diritto di Singapore è prestata da KGP Legal LLC, uno studio autorizzato di advocates and solicitors di Singapore. In quanto studio legale di Singapore, KGP Legal LLC è autorizzato ai sensi del Legal Profession Act 1966 a prestare consulenza sul diritto di Singapore e a rappresentare i clienti dinanzi ai tribunali di Singapore; agli studi legali stranieri con una sede a Singapore, di regola, non è consentita né l’una né l’altra attività. Il Dr Ressos e il suo team rendono accessibile l’intera gamma di servizi legali, di compliance e di amministrazione societaria a Singapore, tra cui la costituzione di società, le operazioni societarie, i contratti commerciali, le cripto-attività e gli asset digitali, la regolamentazione finanziaria e la risoluzione delle controversie, compreso il contenzioso dinanzi ai tribunali di Singapore. Per i servizi legali, fiscali e fiduciari in Svizzera, consulti helveticaregister.com.

Il Suo progetto Scriva al Dr Alexander Ressos