文章探讨了在金融领域中使用人工智能可能带来的风险和挑战，特别强调了对保密性、安全性和公平性的潜在影响。通过引用密歇根大学教授Michael Wellman的见解，文章呼吁立法者应及时更新金融监管法律以适应AI技术的发展，建立专门监督机构进行监管。同时，也提到了AI算法可能会学会操纵市场的问题，呼吁监管者要求明确设定AI算法的目标和行为准则，并加强行为监测和审计。另外，文章还探讨了AI可能加剧信息不对称对市场公平性的影响，提出了加强数据隐私保护和鼓励数据共享的建议来平衡不对称信息带来的影响。全文涵盖了AI在金融系统中的潜在风险以及可能的解决方案，强调了监管者需要针对这些问题做出反应。预计阅读全文需要3-4分钟。*
在一个人工智能（AI）算法已经能够分析实时财务信息并在几乎没有人类监督的情况下做出高风险交易决策的世界中，我们的金融监管体系并没有跟上其发展。
密歇根大学安娜堡分校计算机科学与工程系教授Michael Wellman本周在银行、住房和城市事务参议院委员会面前作证，提醒立法者AI在金融系统中使用可能对保密性、安全性和公平性造成潜在危险。
Wellman表示：“通常来说，我们现有的法律是基于真人做决策的假设而编写的。”“当AI做决策时，我们的法律是否足以确保那些将AI投入工作的人承担责任呢？”
对经济的潜在威胁不仅来自希望使用AI操纵市场或提取财务信息的不良行为者。Megan Shearer领导的研究表明，仅仅旨在最大化利润的自动化算法也可能同样令人担忧。
他们的研究演示了一个交易算法如何在没有明确指示的情况下学会操纵市场。开发者规范与AI行动之间的潜在不匹配引发了如何追究AI开发者对他们释放到世界上的AI代理的责任问题。
Wellman表示：“许多现行法律依赖于操纵的意图，而AI算法自己学会操纵时，如何适用这一法律是不清楚的。”
这种漏洞可能允许AI开发者逃避对他们的AI的责任。
Wellman说：“我们需要找到方法来定义在AI系统的背景下的意图。”“不幸的是，由于该行业的保密性和难以预测未来可能会发生什么，要想提高对AI的监管是很难的。
Wellman认为，公开更多关于什么行为可能带来风险的知识将有助于帮助金融系统为AI的到来做好准备，并激发市场规则和体系不被AI带来的影响破坏。
他说：“在类似于真实金融系统的测试环境中模拟AI行为可以帮助研究人员和监管机构更好地了解算法在投入实际运行之前的行为。”“我们必须分清哪些做法和情况有助于改善，哪些有害，并确定促进有益做法和阻止有害做法的市场设计或法规。”
Wellman认为，监管者必须在AI带来严重风险之前做出反应，这“有时是避免真正糟糕结果的关键”。
他还表示，AI可能会加剧具有大量信息访问权的各方的交易优势。因为拥有最多数据的公司可以构建最强大的AI，垄断数据的公司可能在金融交易中获得优势。垄断交易信息资产尚未得到广泛研究或讨论。
Wellman说：“培训数据是否应该像内幕信息一样受到监管？这是立法者需要思考的问题。”“如果市场因操纵或信息优势等问题被视为不公平，这可能会损害对整个体系的信心，破坏了经济资本形成的关键过程。”
参考资料：Senate testimony: AI risks to the financial sector
1. AI在金融系统中使用可能对保密性、安全性和公平性造成潜在危险，你认为立法者应该采取哪些措施来确保金融监管跟上技术的发展？
回答：立法者可以考虑审查并更新现有的金融监管法律，以明确规定AI在金融领域的使用限制和责任界定。同时，建立专门的监管机构或委员会来监督AI在金融系统中的应用，加强对AI开发者和使用者的监管和责任追究。
2. AI算法可能学会在市场中操纵，你认为如何能够有效地界定和监管AI系统的意图？
回答：为了界定和监管AI系统的意图，监管者可以要求AI开发者在设计和实施AI算法时明确设定算法的目标和行为准则，同时监测和审计AI系统的行为，以确保其符合法律法规和道德标准。
3. AI可能会加剧具有大量信息访问权的公司的交易优势，你认为应该如何平衡信息不对称对市场公平性的影响？
回答：为了平衡信息不对称对市场公平性的影响，立法者可以考虑加强数据隐私保护法律，限制公司获取和使用个人数据的范围，同时鼓励透明度和数据共享，以减少信息壁垒和促进市场竞争。
*简介与问答内容由人工智能chatGPT根据文章内容总结发散，仅供参考，如有冲突请以正文内容为准
【独家稿件声明】本文为美国续航教育（Forward Pathway LLC，官网地址：www.forwardpathway.com）原创，未经授权，任何媒体和个人不得全部或者部分转载。如需转载，请与美国续航教育联系；经许可后转载务必请注明出处，违者本网将依法追究。
美国续航教育总部位于美国加利福尼亚州洛杉矶，同时在中国上海和深圳设有续航教育分部。续航教育自2013年成立以来，致力于研究中美之间的文化教育发展与趋势，提供最专业的美国留学一站式服务，获得美国国际招生协会AIRC及国际教育顾问委员会ICEF的双重认证。
觉得有用的话就评价/分享一下吧~
