人工智能(AI)的最新进展以超人的速度发展. 随着人工智能时代在澳门赌场官方下载环境中迅速获得动力, 组织正面临着一个新的数据生态系统,必须用强大的, 积极的治理. 和所有新技术一样, 这需要仔细考虑如何平衡创新的进步与对个人的潜在影响和伤害. 虽然这并不是一个全新的概念——自工业革命开始以来,社会就面临着类似的问题——但现在的不同之处在于变化的速度和分析大量数据的令人难以置信的能力, 哪些不仅会影响公司收入流,还会影响与金融相关的个人成果, 保险, 健康或职业, 以及更广泛的澳门赌场官方下载和社会.
例如, 研究已经确定了人工智能算法中的关键风险, 包括种族, 性别和社会经济偏见以及年龄验证问题. 数据保护风险也很大. 例如, 收集什么数据来训练大型语言模型, 当个人及雇员使用ChatGPT等工具进行通讯时,输出的资料由谁拥有?可能提交的个人资料会如何处理? 此前已经发生过用户能够访问其他用户聊天记录的数据泄露事件, 强调数据隐私和安全的重要性. 还有一个准确性的问题——这项技术基本上是基于所有先前的语言组合来预测最可能的结果. So, 训练模型的数据对于确保准确性至关重要, 这也会随着时间的推移而减少,这取决于系统的架构方式.
面对这些和其他的担忧, 隐私, 法律, 遵从性和IT领导者需要更快地建立, 加强和调整围绕人工智能应用的治理结构,以及由此产生的新数据流. 尽管法规仍在制定中,组织正在等待更具体的指导, 在新的人工智能实施中,可以采取重要步骤来确保遵守数据隐私要求并避免潜在的道德问题.
有几个小组在开发标准(包括技术标准和治理标准), 哪些为组织开始处理这个新环境提供了一个有用的起点. 其中包括经济合作与发展组织(oecd), 国际标准化组织(ISO), 美国国家标准与技术研究院(NIST)和欧洲数据保护委员会. 除了遵循ISO 27701隐私和ISO 31700隐私的设计, 组织可以参考ISO开发的大量标准,以解决人工智能解决方案的各种系统元素和功能,以及围绕人工智能风险管理的标准, 人工智能、自动化决策和治理标准方面的偏见. 同样的, NIST发布了一个人工智能风险管理框架, 它为实现强有力的治理建立了实际的措施 值得信赖和负责任的AI资源中心. 最近美国白宫关于人工智能的行政命令也强调了NIST是制定标准和指导的关键,以及NIST人工智能框架,作为组织确保有效和主动治理人工智能解决方案的主要推动者. 重要的是, 而全球法规正在制定, 组织应该利用早期的标准和已知的最佳实践来降低风险,同时允许创新,直到进一步的需求得到确认.
数据隐私最佳实践也是建立人工智能治理结构的关键要素. 实施隐私计划的一个教训是,为了遵守一套复杂的全球法规,与关键利益相关者合作,在整个澳门赌场官方下载中进行全面合作至关重要. 也, 强大隐私的核心基础——包括创建合规文化, 衡量整个组织的风险偏好和评估个人潜在危害——可以用于人工智能治理.
人工智能的高隐私标准可以也应该在开发层面得到解决. 隐私标准和最佳实践可以在软件开发生命周期的每个步骤中转换为检查点和控制. 为了说明这一点, 用于临床试验和其他涉及人体的研究, 总会对提议的过程进行道德审查,并需要识别当前和新出现的风险,以评估产品的影响, 过程或研究. 这些标准被许多行业所遵循,为人工智能和其他有影响力的技术的发展提供了合理的基础. 这种方式可以促进信任,减少不利影响的可能性. 在实践中, 隐私负责人可以与开发人员合作,确保对人工智能模型进行评估等步骤, 解释数据源的沿袭, 数据集的流通和准确性, 风险分类和评估均由数据隐私委员会适当完成并进行审查, 安全, 合规和道德专家.
区块链和元宇宙等新兴生态系统是额外的考虑因素. 这些进步与人工智能之间存在显著的重叠. 例如, 区块链可以记录由分层人工智能代理和系统做出的行动和决策,并具有发生了什么和何时发生的可审计日志. 这提供了数据来源的证明,以及对底层数据进行任何篡改的证据, 允许根据数据源声誉和真实性对结果进行评估. 此外, 数字所有权可以证明输出模型和生成内容的所有权和出处, 承认虚拟或隐藏的人工智能系统所创造的贡献. 使用基于区块链的数字代币, 通过启用对人工智能生成内容的来源的跟踪和认证,可以支持人工智能实现中的数据来源. 例如, 人工智能创建的新闻文章可以与代币相关联, 确保内容的来源是可验证和安全的, 让人们更容易区分真实信息和伪造信息.
最终,创新几乎总是领先于治理,甚至远远领先于监管. 人工智能和机器学习工具已经以各种形式存在了很多年, 但直到现在,各方才齐心协力地将治理嵌入其中, 透明度, 可解释性和公平性,以回应全球对危害风险和相关立法的关注. 这是一个不可避免的难题:如何利用组织内的丰富数据,同时确保消费者的信任, 客户, 合作伙伴和政府. 这样的支持只有在隐私得到保护的情况下才能实现, 风险和合规领导者建立信任,并基于适当的算法和技术,使用准确的模型和数据开发解决方案, 确保结果公平透明.
编者按:想要进一步了解这个话题,请阅读作者最近在《澳门赌场官方下载》上发表的文章, “数据是澳门赌场官方下载的命脉:要想繁荣,治理必须推动洞察力。” ISACA杂志,第3卷2023.