套娃不可取：研究人员证实用AI生成的结果训练AI将导致模型退化乃至崩溃
，IT之家的小伙伴们可能都有设想过，如果用 AI 生成的结果来训练 AI，进行“套娃式训练”，能得到什么样的结果？目前还真有研究团队对此进行了观察记录，详细论文及得出的结果发表在了 arXiv 上。
一句话总结 —— “在训练中使用模型生成的内容，将导致后续生成的模型出现不可逆转的缺陷”，说人话就是研究人员发现“用 AI 生成的结果训练 AI，只会让模型变得越来越差”。
据悉，研究人员专门研究了 AI 生成模型的概率分布，主要围绕“文本到文本”和“图像到图像”展开，最终得出结论:“由于每个模型生成的结果都具有一定的特点，因此用 AI 生成的模型训练 AI，随着时间的推移，后者会忘记真正的底层数据分布。”
论文的主要作者之一 Ilia Shumailov 同时表示“随着时间的推移，生成数据中的错误会迫使 AI 进一步错误地感知现实，我们惊讶地观察到模型崩溃发生的速度相当快，模型可以迅速忘记他们最初从中学习的大部分原始数据。”
但小伙伴们可能会有所疑问，如果将 AI 生成的结果经过人工润色后再投入模型训练，是否可以避免模型“退化”？
答案是否定的，研究人员发现“模型退化过程是不可避免的”，因此即使对于“经过润色后理想化的 AI 输出内容”，模型在长期学习后，也会出现一定的退化现象。
对于任何大模型而言，由于其学习数据过多，它们都将不可避免地接触到其他 AI 生成的数据，因此研究人员表示“应当引入 AI 鉴定来挑出可能存在错误的学习数据”以提升模型的学习能力与准确性。
声明：以上内容为本网站转自其它媒体，相关信息仅为传递更多企业信息之目的，不代表本网观点，亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险，需谨慎。
猜您喜欢
-
11-13
-
10-12
-
10-08
-
10-08
-
10-08
-
10-08
-
10-08
-
10-08
-
10-08
-
10-08
推荐阅读
-
-
电子行业年报综述：行业虽面临压力整体仍保持相
电子年度报告摘要2021年，电子行业尽管受到全球疫情和行业周期的干扰，但仍保持稳定增长态势。2021年，申万电子行业整体...更多
2022-05-16 13:21:00
-
-
潮安登塘举办乡村振兴电商特训班，培养农特产品
“我以前是刷短视频的。不知道别人的视频怎么拍的这么好？通过老师的讲解，我终于领悟了，受益匪浅！”5月14日至15日，潮州...更多
2022-05-16 13:18:00
-
-
2022前四月住宅新开工面积同比下降28.4
北京商报今日讯——5月16日，国家统计局发布2022年1-4月全国房地产开发投资数据。1-4月份，房地产开发企业房屋施工...更多
2022-05-16 12:51:00
-
-
西北地区绿色电力交易实践与思考
绿色电力交易是指以绿色电力产品为标的物的中长期电力交易，是中长期电力市场体系中全新的交易品种。绿色电力交易的目的是将新能...更多
2022-05-16 12:39:00
-
-
华为鲁勇：打造数字经济新动能让更多的人从数字
在2022年世界电信和信息社会日到来之际，我谨代表华为向广大客户、产业链合作伙伴和各界朋友致以诚挚的问候，期待与您携手共...更多
2022-05-16 11:46:00
-
-
GSMA：中国大陆5G渗透率36.82%位居
近日，GSMA发布了最新的统计信息。截至2022年第一季度，在全球5G渗透率排名中，南韩以44.92%位居第一，其次是中...更多
2022-05-16 11:22:00
-
-
看了这款潮野SUV哈弗大狗，我直接退掉了CR
费用在心里。随着国家自主品牌趋势的觉醒，对应这个细分市场的产品也越来越丰富。我们不再需要在少数合资品牌中挑三拣四，可以进...更多
2022-05-16 11:20:00
-
-
统计局：前4月全国固定资产投资153544亿
据国家统计局网站消息，1-4月，全国固定资产投资153544亿元，同比增长6.8%。其中，民间固定资产投资86872亿元...更多
2022-05-16 11:20:00
-
今日必看
- 浏览排行
- 热门精选
