美国SEC主席詹斯勒公开演讲：如何看待AI的机遇、挑战与风险

7月18日讯  当地时间周一，美国证券交易委员会主席加里·詹斯勒在美国首都的全国新闻俱乐部发表题为《从牛顿到人工智能》的演讲，系统性阐述了美国证券监管掌门人对AI所带来机遇和风险的认知。

（官方公布的詹斯勒演讲稿，来源：美国SEC）

SEC主席在开场中提到，当疫情席卷欧洲和英国时，学生们收拾起书本回家。剑桥大学三一学院的一名学生回到了他偏远的家庭农场。在隔离期间，他继续进行物理和数学的研究。当然，这里讲的是1660年代和鼠疫。据说在居家隔离期间，艾萨克·牛顿对引力等深奥的观点进行了思考，包括一种新的数学形式——微积分。

而在最近一次的全球疫情中，当许多21世纪的学生们也在收拾书本回家时，新版本的生成式人工智能（AI）模型GPT-3问世了。当然，由于疫情的缘故，GPT-3引发的关注远远弱于它的后续版本。GPT-4在今年的圆周率日（3月14日）走到台前，就在同一天还有另外两款竞品问世，短短两天后，中国的百度也推出了ERNIE Bot（文心一言）。

詹斯勒表示，他相信人工智能是这个时代最具变革性的技术，与 互联网 和 汽车 大规模生产可以相提并论。从人工智能祖师爷艾伦·图灵在1950年发表的论文《计算机和智能》开始，到IBM深蓝和谷歌AlphaGo击败最强人类棋手，人工智能实际上已经走入生活的方方面面：包括自然语言处理、翻译软件、推荐系统、放射学，还有 金融 体系里的呼叫中心、合规程序、交易算法等方面。

AI的机遇、挑战与风险

詹斯勒在演讲中，针对人工智能的进步对每个人（微观）和 经济 和社会（宏观）带来的影响进行了分别阐述。

在微观层面，詹斯勒用了“窄播”（Narrowcasting，与“广播”相对）这个词，强调基于AI模型越来越强的能力，可以预测每个人作为个体的行为。这样有助于展开成规模，且高效的差异化沟通。现在，人们每天都会收到AI推荐系统的消息，这些系统正在考虑个体可能如何响应他们的提示。当然，这也引发了一系列问题，这些问题并不是AI本身的问题，而是被AI加剧了。

由于现代AI模型的设计原理，它们的决策和结果通常是无法解释的。同时由于算法可能基于反映历史偏见的数据，AI也有可能使得保持社会公平更加困难。此外，当产品定价可以精确有效地针对每个人时，生产商更有可能找到每个个体支付价格或购买产品的最大意愿。通过这种窄播，更有可能将消费者福利转移到生产者身上。

詹斯勒也特别提示了AI被用来诈骗的风险。骗子们可能试图以窄播的方式，针对每个个体的弱点设置个性化的方案，来影响选举、资本市场，或者恐吓公众。作为美国证交会的主席，他也已经成为“网络AI小作文”的受害者。本月初，一些AI生成的文本在网上散布“詹斯勒辞职”的谣言。

SEC主席特别强调，根据证券法，欺诈就是欺诈。SEC致力于识别和起诉可能威胁 投资 者、或更广泛市场的任何欺诈。同时，上市公司在讨论AI机遇和风险时，需要小心确保材料披露的准确，不能误导投资者。

詹斯勒进一步表示，与历史上的诸多变革时期一样，AI也会对社会总体带来宏观挑战。其中一个或者少数几个AI平台可能成为市场主导的可能性，带来了潜在的金融稳定风险。

早在麻省理工任教期间，詹斯勒就与其他学者合著了名为《深度学习与金融稳定》的论文，今天的AIGC使得其中的一些问题更有可能发生。由于单个市场参与者更有可能从基础模型中得到相同的信号，这有可能促进群体行为，并增加了金融的脆弱性。现有的风控模型指引大都早于这一轮AI浪潮，考虑的基本上是企业自身的微观风险，鉴于许多AI未来可能引发金融稳定挑战，将需要关于系统范围或宏观审慎政策干预的新思考。

最后，SEC主席强调，该机构对于技术持有中立的态度——关注的是结果，而不是工具本身。SEC将在职权范围内，致力于防止前面所讨论的微观和宏观挑战，也有可能因此修改《证券法》。与此同时，SEC也可以从员工在市场监控、披露审查、执法和经济分析中更大规模地使用AI受益。

【来源：财联社】