Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  每经记者 蔡鼎    每经实习记者 岳楚鹏    每经编辑 兰素英    

  一直被外界寄予极高期望的OpenAI文生视频AI模型Sora自今年2月首次展示以来,就没有任何关于何时正式发布的消息了。当地时间11月26日,一些据称参与了Sora测试的艺术家泄露了该模型的访问权限(API),以抗议OpenAI对他们的压榨行为。

  当日,公共AI模型社区Hugging Face突然出现了一个文生视频的项目。项目团队使用他们的身份验证令牌(可能来自早期访问系统)创建了一个前端,让所有Hugging Face的用户可以使用Sora生成视频。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  通过这一前端,用户可以通过输入简短的文字描述来生成分辨率高达1080p的10秒视频。但项目创建三个小时后,OpenAI就关闭了所有艺术家对Sora的早期访问权限。目前该项目已无法使用。在短短的三小时内,用户通过这一项目生成了87个视频并发布了出来。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  目前OpenAI并没有公开确认所谓的Sora泄露是否属实。但是OpenAI强调,参与其“研究预览”是“自愿的,没有义务提供反馈或使用该工具”。

  OpenAI暂停Sora访问权限这一举动也暴露出AI行业的透明度问题。随后,该艺术家团体发布了一个公开信网站,鼓励任何与他们有相同观点的人签署这封公开信。截至发稿,这封信已经收到550个签名,包括马斯克。 

  当地时间11月26日,一小群参与Sora测试的艺术家在Hugging Face泄露了Sora的访问权限,以表达对OpenAI的不满。项目团队使用他们的身份验证令牌(可能来自早期访问系统)创建了一个前端,让所有Hugging Face的用户可以使用Sora生成视频。

  此前,OpenAI向数百名艺术家开放了Sora的早期使用权,以测试这款新的AI视频生成器。但部分艺术家认为,OpenAI利用了他们的无偿劳动,并利用他们来提升公司形象。

  为引起外界对OpenAI这一行为的关注,他们在公共AI模型社区Hugging Face上发布了一个在线项目,允许公众使用Sora生成视频。

  随项目同时发布的还有一封言辞激烈的公开信。在信中,艺术家们将OpenAI比作“中世纪的封建领主”,谴责他们利用了艺术家的无私贡献,却并没有给出合理的报酬。“我们获得了Sora的使用权,并承诺成为早期测试者、红队成员和创意合作伙伴。然而,我们认为,我们被引诱进行‘艺术洗白’,以告诉世界Sora对艺术家来说是一个有用的工具。”

  这封信充斥着对OpenAI的不满,艺术家们写道:“我们不是你的无偿研发人员。我们不是你的:免费错误测试人员、PR(公关)傀儡、训练数据和验证令牌。”

  尽管参与模型测试的艺术家有数百名,但只有少数作品进行展映,而且报酬极为有限,与OpenAI获得的巨大公关和营销价值相比,简直是微不足道。更让这些艺术家们愤怒的是,“每个影片都需要OpenAI团队的批准才能分享。这个早期访问计划似乎更多关注的是公关和广告,而不是创作表达和批评。”

  他们在信中强调,“我们并不反对将AI技术作为艺术工具使用(如果我们反对,可能就不会参加这个项目)。我们不同意的是艺术家项目的推出方式,以及该工具在可能公开发布之前的呈现方式。我们发布这个声明,希望OpenAI能变得更加开放,对艺术家更加友好,并在支持艺术方面不只是公关作秀。”

  他们还呼吁其他艺术家们使用开源的视频生成工具来抵制OpenAI这种闭源公司。“开源视频生成工具让艺术家能够在没有门槛、商业利益或服务于任何公司的公关目的下,探索前卫艺术。我们也鼓励艺术家使用自己的数据集来训练自己的模型。”

  但在艺术家们上线Sora API项目后三小时,OpenAI迅速切断了访问权限。OpenAI发言人Niko Felix称,公司将暂停所有用户对Sora的访问,同时调查情况。但是他拒绝说明这个项目是不是真的链接到了Sora模型。“Sora仍处于研究预览阶段,我们正努力在创造力与更广泛的强大安全措施之间取得平衡。”

  Felix同时说道:“我们alpha版本的数百名艺术家塑造了Sora的发展,帮助确定新功能和保障措施的优先级。参与是自愿的,没有提供反馈或使用该工具的义务。我们很高兴为这些艺术家提供免费访问权限,并将继续通过赠款、活动和其他计划为他们提供支持。我们相信AI可以成为一种强大的创意工具,并致力于让Sora既实用又安全。”

  在OpenAI暂停Sora访问权限后,该艺术家团体发布了一个公开信网站,鼓励任何与他们有相同观点的人签署这封公开信。

  截至发稿,这封信已经收到550个签名,与OpenAI极其不对付的马斯克也在其中。

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

Sora权限被故意泄漏,生成效果流出,艺术家怒斥OpenAI:我们不是免费的傀儡!AI研发不透明引发担忧

  这次事件在AI行业中并不常见,因为早期测试人员的反馈受到公司的严格控制,而且严厉的批评很少公开。通常,公司会亲自挑选哪些外部人员可以提前访问系统,在某些情况下,公司会要求这些用户签署保密协议或获得批准,然后才能公开分享系统生成的任何图像、视频或文本响应。

  但最近,越来越多的AI安全专家批评这种做法对独立研究产生了寒蝉效应,降低了透明度,并阻碍了对公司行为的问责。斯坦福大学的基础模型透明度指数显示,没有一家主要的基础模型开发商能够提供足够的透明度(最高得分54分,满分100分),这揭示了AI行业缺乏透明度。

  OpenAI的员工此前也指责公司强迫员工签署“封口协议”,不允许离职员工发表对公司负面言论,否则公司可以收回员工已有股权。离职员工也不得对外公开这些协议内容。

  为此,今年六月,OpenAI和谷歌DeepMind的一批员工联合发布了一份名为《对AI发出警告》的公开信。

  公开信预警,AI技术存在加剧不平等,操纵和误导信息,失去控制并威胁人类的风险。AI公司技术迭代的同时产生了大量安全相关的非公开信息,它们没有主动披露的动机。监管部门对此难以形成有效制约,只能由现任或前任员工要求它们向公众负责。

  上述员工在公开信中对包括OpenAI在内的AI公司提出了四点呼吁:其一,不强迫员工签订禁止批评公司的协议;其二,为公司现任和前任员工提供匿名的安全反馈机制;其三,允许现任和前任员工向董事会、监管机构、其他安全机构提出对公司技术安全的担忧;其四,公司不对公开分享风险相关机密信息的现任和前任员工进行报复。

  正如Hugging Face的一则评论所说,“AI并非凭空而来。它建立在创意人员的肩膀上,而这些创意人员往往没有得到认可。Sora泄密事件敲响了警钟:没有道德的创新就是剥削。”

标签:

相关推荐

  • 突发!A港携手转强,大科技秀傲人弹性,金融科技ETF(159851)飙涨近5%,“当红炸子鸡”AI重磅上新!

    突发!A港携手转强,大科技秀傲人弹性,金融科技ETF(159851)飙涨近5%,“当红炸子鸡”AI重磅上新!

      终于,V型反转!  今日(11月27日)早盘,A股低位开局,沪指一度跌近1%。10:00左右异动突发,在TMT、券商、大消费等板块的带动下,三大指数全线转涨,午后单边拉升,创业板指领涨近3%,港股同步触底走强。市场全天成交额1.49万亿元,环比放量。  盘面上,板块行业久违普涨,“旗手”券商担纲“定海神针”,锦龙股份连续涨停,A股顶流券商ETF(51...

    2024/11/27
  • 数字金融高质量发展“施工图”来了!加强战略规划和组织管理 强化数字金融风险防范

    数字金融高质量发展“施工图”来了!加强战略规划和组织管理 强化数字金融风险防范

      21世纪经济报道记者边万莉杭州报道为深入贯彻党的二十届三中全会和中央金融工作会议精神,做好数字金融大文章,近日,中国人民银行、国家发展改革委、工业和信息化部、金融监管总局、中国证监会、国家数据局、国家外汇局等七部门联合印发《推动数字金融高质量发展行动方案》(以下简称《行动方案》)。  《行动方案》从系统推进金融机构数字化转型、运用数字技术提升重点领...

    2024/11/27
  • 墨西哥经济部长:特朗普征收关税将导致美国流失40万就业岗位

    墨西哥经济部长:特朗普征收关税将导致美国流失40万就业岗位

    当地时间11月27日,墨西哥经济部长埃布拉德表示,美国当选总统特朗普宣布征收关税将导致美国40万个就业岗位流失,并降低美国经济增长。(央视新闻)...

    2024/11/27
  • 创业板午后发威!汇金科技20CM涨停,金融科技ETF(159851)放量反弹4.72%!

    创业板午后发威!汇金科技20CM涨停,金融科技ETF(159851)放量反弹4.72%!

      周三(11月27日),创业板个股发威,“创业板”含量高的金融科技午后持续走高,中证金融科技主题指数涨逾4%!成份股大面积飘红,截至收盘,汇金科技20CM涨停,赢时胜、同花顺均大涨超11%,中科江南、银信科技、指南针、东方财富等多股涨超5%。  热门ETF方面,金融科技ETF(159851)尾盘单边上扬,场内价格反弹收涨4.72%,全天成交额超6亿元,环...

    2024/11/27
  • 150亿!四川银行成立4年来首度获准发行资本工具 10月来6家银行拿到2664亿额度

    150亿!四川银行成立4年来首度获准发行资本工具 10月来6家银行拿到2664亿额度

      财联社11月27日讯(记者彭科峰)11月27日晚间,国家金融监管总局官网披露,同意四川银行发行不超过150亿元人民币的资本工具。  依据监管网站,这也是四川银行成立4年以来,首次获批发行资本工具。  监管批复指出,四川银行可在批准额度内,自主决定具体工具品种、发行时间、批次和规模,并于批准后24个月内完成发行。并且,应在资本工具发行结束后10个工...

    2024/11/27
  • 睿远陈光明最新对话,谈及特朗普的政策影响,以及不确定环境下的中美市场机会

    睿远陈光明最新对话,谈及特朗普的政策影响,以及不确定环境下的中美市场机会

      来源:IN咖  作者:陈光明&Martin  “全球各地的企业都会在短期内(在关税提高前)累积库存,这也能给各国政府提供更多的时间,同时找到一些谈判的筹码。”  “虽然对于关税我们看到很多新闻头条,但是我相信,最终会通过谈判达到一个平衡点,延续目前的关税可能会造成通胀的压力。”  “贝森特本身也是一家对冲基金的管理人,他也知道关税对于金融...

    2024/11/27
  • 10月工业利润降幅大幅收窄,降成本仍需政策加力

    10月工业利润降幅大幅收窄,降成本仍需政策加力

      随着存量政策及一揽子增量政策协同发力、持续显效,规模以上工业企业生产稳定增长,利润增速降幅明显收窄。  国家统计局11月27日发布的数据显示,1~10月,全国规上工业企业利润同比下降4.3%。其中10月份,规上工业企业利润同比下降10.0%,降幅较9月大幅收窄17.1个百分点。  不过,1~10月,规上工业企业每百元营业收入中的成本同比增加0.32元...

    2024/11/27
  • 消费者支出强劲推动 美国三季度GDP稳步增长2.8%

    消费者支出强劲推动 美国三季度GDP稳步增长2.8%

    美国经济在第三季度稳步扩张,这在很大程度上得益于消费者支出的广泛增长,同时通胀继续降温。美国经济分析局周三公布的第二份数据显示,第三季度国内生产总值(GDP)折合年率增长2.8%,较上一季度的3%有所放缓,但在过去九个季度中,有八个季度的增长率超过2%。经济的主要增长引擎——消费支出——增长了3.5%,为今年以来的最高水平。GDP报告显示,经济扩张的持...

    2024/11/27
  • 汇丰策略师预计欧元兑美元到2025年底将跌破平价

    汇丰策略师预计欧元兑美元到2025年底将跌破平价

      汇丰高级外汇策略师NickAndrews认为,欧元兑美元有望在明年年底前跌至0.99。他表示,失业指标上升让人怀疑欧元区能否避免衰退。  “近年来劳动力市场的韧性支撑了服务业产出和价格,但失业率上升将抑制预期的欧元区消费复苏,”Andrews在给客户的报告中写道。  虽然法国失业率接近42年低点,但随着经济走软,失业率可能“更显著的上升”。  周...

    2024/11/27
  • 平安产险徐州中心支公司被罚42万元:因未按规定使用经批准或者备案的保险条款、保险费率

    平安产险徐州中心支公司被罚42万元:因未按规定使用经批准或者备案的保险条款、保险费率

      11月27日金融一线消息,国家金融监督管理总局徐州监管分局行政处罚信息公开表显示,中国平安财产保险股份有限公司徐州中心支公司因未按规定使用经批准或者备案的保险条款、保险费率,被国家金融监督管理总局徐州监管分局罚款42万元。  张雪冰(时任中国平安财产保险股份有限公司徐州中心支公司总经理)对中国平安财产保险股份有限公司徐州中心支公司未按规定使用经批准或者...

    2024/11/27
返回顶部
微信号复制成功
微信号: 13695011756
点击下方按钮