XXKK星空交易所

  • 星空交易所首页
  • XXKK官方注册
  • 平台快讯
  • 比特币行情
  • 区块链新闻

中国科学院院士何积丰:大模型的主要安全挑战在隐私保护和价值观对齐

据《科创板日报》9 月 7 日报道,中国科学院院士何积丰在 2023 Inclusion?外滩大会上表示,大模型的主要安全问题一是在隐私方面,大模型训练过程中涉及大量用户个人信息和数据,使用过程涉及很多用户私密信息,这些信息没有受到应有的隐私保护,生成能力让隐私泄露的方式变得多样化,隐私保护更加困难。二是在对齐方面,需要让系统的价值观和人类价值观一致,使其符合设计者的利益和原则,不会产生意外的有害结果。但人类价值观是多元且动态变化的,而且大模型的“有用性”和“无害性”存在冲突,这导致对齐成为复杂的跨学科研究问题。目前,反馈强化学习是实现对齐的技术途径,通过反馈给模型不同的奖励信号,引导模型的高质量输出;基于给大模型提供明确的原则,系统自动训练模型,对所有生成的输出结果提供初始排序。

原文链接

上一篇: 某鲸鱼33分钟前向Binance存入75.5万枚PENDLE,目前浮盈2280万美元
下一篇: 17岁天才推特黑客落网!栽在猪队友用驾照注册Coinbase

最新发布

  • MantaCeDeFi 现已集成Ethena Labs
  • 调查:十分之一美国人圣诞礼物首选为比特币,餐桌上论加密胜过政治缩略图
    调查:十分之一美国人圣诞礼物首选为比特币,餐桌上论加密胜过政治
  • 6只香港虚拟资产ETF今日成交额为1442.38万港元
  • Amber市场评论|比特币崩跌,长期持有者抛售缩略图
    Amber市场评论|比特币崩跌,长期持有者抛售
  • 鲸鱼大户「抛售欲望」续增!交易所大笔流入增加缩略图
    鲸鱼大户「抛售欲望」续增!交易所大笔流入增加

热点资讯

  • 区块链新闻
  • 平台快讯
  • 比特币行情

标签

XXKK交易平台 随时随地 全在掌控


立刻注册

关于我们