当stable diffusion生成模型爆火之时， 走歪的功能马上出现了。老司机按耐不住整活儿的心情，马上开始用stable diffusion的ai生成图片功能开始生成色情图片。
最先是reddit和4chan上的利用ai系统生成逼真的动漫风格果体角色图像，这些图像主要是女性，以及名人换脸裸体图像。尽管reddit 发现这一问题之后迅速关闭了这些专门用于ai色情内容的子版块，甚至允许传播某些形式的成人艺术的 newgrounds 也完全禁止ai生成的艺术作品。但此类行动无异于扬汤止沸，由于stability ai向公众开放了stable diffusion模型的代码权重，这一功能已经可以快速在其他平台复制。
于是，新的社区出现了。
目前为止，这类社群规模最大的是unstable diffusion，其运营商正在开展的业务目的很明确，就是为了生成高质量色情内容。目前，unstable diffusion每月从数百名会员那里能获得超过 2500美元的收入。
我不禁感慨，unstable diffusion ai色情内容生成模型下，不稳定的究竟是“扩散模型”还是人性的欲望呢？
卑微的“发家”却拥有“全五星好评”
说来unstable diffusion诞生的时间并不长，今年8月才推出，与stable diffusion模型发布的时间差不多。它最初是一个reddit下的板块，最终迁移到在线社区discord上。
起初，unstable diffusion 只是一个分享人工智能生成的色情内容的地方。不过很快，服务器的几位管理员就想着有自己不一样的“饭碗”了，他们开始探索如何在现有开源工具之上构建自己的色情生成人工智能系统，stable diffusion现成的技术也就这么用上了。
最开始尝试生成色情内容的时候，unstable diffusion允许用户通过输入文本提示来生成色情内容，但总是出现翻车的情况。因为机器毕竟是没有感情的，机器生成的色情人物经常出现要么是四肢错位了，要么是“某些该有的地方没有，不该有的地方却出现”的情况。
模型无法生成涩图，原因竟是“自己没看够”！
其实就是拿来即用的stable diffusion模型没有接触过足够多的色情示例以“知道”如何产生预期的结果。要知道stable diffusion最开始可不是为了生成色情内容而诞生的呀，要不是这些老司机，它可能会一直是一个“天真无邪”的机器呢。
所以unstable diffusion 开始紧锣密鼓的开始给stable diffusion 模型搜集色情数据集让它来学习，甚至unstable diffusion的管理员还招募了志愿者，来创建色情数据集对stable diffusion进行“调教”，这都是为了生成更高质量的色情内容。
由于以上的机器学习与人工微调，使unstable diffusion的“服务能力”显著提高甚至达到优秀，因此在短短两个月内unstable diffusion的团队扩大到超过13人，还有许多顾问和志愿者社区版主，用户也逐渐聚集。目前，unstable diffusion拥有大约50000名注册用户。
果然站在巨人的肩膀上，即使是“搞黄涩”，都能够看得更远。
unstable diffusion合成艺术作品，nft艺术家们慌了？
虽然一众老司机因此狂喜，但对于一部分以绘画、绘画和拍摄暗示性作品为生的艺术家来说，如果任何人都可以用 ai 准确地生成他们想要看到的图像，那么自己的饭碗岂不是不保？
如果有人用艺术家的艺术作品训练unstable diffusion模型，那么具有强烈艺术家个人风格的机器生成艺术图片将会屡见不鲜。正如艺术家社区最近对 deviantart 的人工智能图像生成器dreamup的反应所证明的那样，dreamup是在创作者不知情的情况下对上传到 deviantart 的艺术作品进行训练的，因此许多艺术家对dreamu模仿他们的风格而没有给予授权或经济补偿提出异议。
这些艺术家谴责了他们认为是糟糕的ai模仿，但这些机器生成作品因风格一致却仍然与他们的名字联系在一起。他们还表示担心，模仿他们风格的ai生成的艺术会排挤他们的原创作品，随着人们开始将ai生成的图像用于商业目的而损害他们的收入。毕竟unstable diffusion 授予用户对他们生成的图像的完全所有权和销售许可。
目前，艺术分享社区 furaffinity、newgrounds已经决定完全禁止人工智能生成的艺术。
成长的社区，法律与道德的撕裂
随着unstable diffusion的发展，unstable diffusion也渴望成为人工智能生成的色情内容的“道德”社区——即禁止儿童色情、深度造假和过度血腥等内容。但人们可以想象，随着 unstable diffusion 系统的普及，其系统将变得更难监控。
unstable diffusion认为，必须严格控制只允许虚构和手法的内容产生，而对于专业的工具和商业应用程序的尊龙凯时ag旗舰厅的合作伙伴选择上，他们也会重新考虑并选取合适和尊龙凯时ag旗舰厅的合作伙伴，来制定最符合他们需求和承诺的审核和过滤规则。
但毕竟有句话也叫“小树不修不直溜”，这unstable diffusion靠得就是生产分享色情内容起家的，根儿上面的问题真的这么容易解决吗？
蒙特利尔人工智能伦理研究所创始人兼首席研究员 abhishek gupta也表示了：“像 unstable diffusion 这样的服务器已经成为在一个地方积累大量有问题内容的温床，展示了 ai 系统生成此类内容的能力，并将恶意用户相互联系起来，以进一步提高他们生成此类内容的‘技能’内容。正因为如此，它们也加重了内容审核团队的负担，审核团队在审查和删除高刺激性内容时不得不面对精神上的创伤。”
另一方面，伦理学家也表示，生成的色情片可能会对边缘化群体产生负面影响，包括艺术家和成年演员，他们以创作色情片来满足顾客的幻想为生。风险包括对女性的身体和性行为提出更多不合理的期望，还会侵犯女性的隐私和尊龙凯时ag旗舰厅的版权，在未经同意的情况下提供她们为训练算法而创建的性内容。
最后
虽然目前unstable diffusion 在生成色情内容方面“成绩斐然”，但它面临的种种挑战也是不容小觑的。其中如何把握流量与色情内容尺度的平衡，可能是目前最直接和最重要的。美国有一位参议员已经开始发声了，他呼吁商业公司要在自己的人工智能系统中实施更严格的内容过滤。
近来发生的例子中充满了因没有把握好成人内容尺度而走向失败的商业案例。就拿pornhub 的母公司mindgeek来说吧，2020年在它被发现传播儿童色情和性交易视频后失去了主要投资方的支持。
那么unstable diffusion会遭受同样的命运吗？目前我们都还很难说。至少我是认为开发运营这些系统的公司应该研究来自社区和那些可能受到这些系统的产出和使用不同影响用户的反馈，这样我们才能为所有人创造一个更安全、更好的生态系统，同时真正能够充分发挥包括ai、web3在内各种新技术浪潮的最大良好效益。
收藏
6725
16979
