（泉源：麻省理工科技谈论）
斯坦福与印第安纳大学的最新研究显示，，， ，，，，AI 内容生意平台 Civitai 仍允许用户生意用于微调深度伪造内容的工具，，， ，，，，而这类内容正是该平台宣称明令榨取的。。。。。。。
由 a16z（Andreessen Horowitz）危害投资基金注资的 Civitai，，， ，，，，是一家主打 AI 天生内容生意的线上平台。。。。。。。最新剖析发明，，， ，，，，该平台竟默许用户生意用于天生名人深度伪造内容的定制指令文件，，， ，，，，其中部分文件更是专门用于制作平台禁售的色情图像。。。。。。。
这项由斯坦福大学和印第安纳大学研究职员开展的研究，，， ，，，，对该平台上名为 “悬赏需求” 的用户内容定制请求举行了剖析。。。。。。。研究发明，，， ，，，，2023 年年中至 2024 年底，，， ，，，，平台上的悬赏需求大多围绕动画内容睁开，，， ，，，，但也有相当一部分是制作真人深度伪造内容，，， ，，，，且 90% 的真人深度伪造需求均以女性为目的工具（相关研究效果尚未经由偕行评审）。。。。。。。
近期，，， ，，，，X 平台旗下谈天机械人 Grok 因天生露骨图像引发公众阻挡，，， ，，，，也让深度伪造内容的相关争议再次发酵，，， ，，，，焦点焦点始终是各大平台应怎样封禁此类内容。。。。。。。而 Civitai 的情形则更为重大：该平台不但生意 AI 天生的图片、视频和模子，，， ，，，，还允许用户生意一种名为 LoRAs 的低秩顺应指令文件。。。。。。。这类文件能指导 “稳固扩散” 等主流 AI 模子，，， ，，，，天生其原始训练中并未涉及的内容。。。。。。。用户可将该文件与其他工具团结，，， ，，，，制作出露骨或涉性的深度伪造内容，，， ，，，，研究职员发明，，， ，，，，Civitai 上86% 的深度伪造需求均是求购这类 LoRAs 文件。。。。。。。
在这些深度伪造内容的悬赏使命中，，， ，，，，用户会要求制作者提供高质量的 AI 模子，，， ，，，，用以天生网红查莉?达梅利奥（Charli D’Amelio）、歌手格雷西?艾布拉姆斯（Gracie Abrams）等公众人物的伪造图像，，， ，，，，还�；；；；；；；；岣缴险庑┤宋锏纳缃幻教逯饕沉唇�，，， ，，，，利便制作者从网络上获取相关影像素材。。。。。。。部分需求会明确要求，，， ，，，，模子天生的内容要包括人物全身、精准还原纹身细节，，， ，，，，或是支持调解发色。。。。。。�；；；；；；；Ｉ杏行┬枨蟮哪康氖翘囟煊虻呐匀禾�，，， ，，，，好比 ASMR 视频创作者。。。。。。。
其中有一则需求，，， ，，，，要求制作一名据称是用户妻子的女性的深度伪造内容。。。。。。。平台上的所有用户都可提交自己制作的 AI 模子加入悬赏使命，，， ，，，，最终的最优作品制作者会获得酬金，，， ，，，，金额在 0.5 至 5 美元之间。。。。。。。该平台上近 92% 的深度伪造内容悬赏使命都已有制作者中标。。。。。。。
阻止现在，，， ，，，，Civitai 平台和 a16z 基金均未对相关置评请求作出回应。。。。。。。
不扫除部分用户购置 LoRAs 文件，，， ，，，，是为了制作非性相关的深度伪造内容。。。。。。。但即便云云，，， ，，，，这类行为依然违反 Civitai 的平台使用条款，，， ，，，，且保存伦理争议。。。。。。。而 Civitai 平台还会提供种种教学资源，，， ，，，，指导用户怎样借助外部工具进一步定制图像天生器的输出内容，，， ，，，，好比调解人物的肢体姿势。。。。。。。平台上尚有用户撰写的文章，，， ，，，，详细先容了怎样调教 AI 模子天生色情内容。。。。。。。研究职员发明，，， ，，，，该平台上的色情内容数目一连增添，，， ，，，，现在平台每周的大部分内容需求都为不相宜果真的成人内容。。。。。。。
该研究的认真人之一、斯坦福大学网络政策中心博士后研究员马修?德沃尔纳（Matthew DeVerna）体现：“Civitai 不但搭建了催生这些问题的基础设施，，， ，，，，还会明确指导用户怎样使用这些工具制作违规内容。。。。。。。”
Civitai 此前仅封禁针对真人的性相关深度伪造内容，，， ，，，，却在 2025 年 5 月宣布，，， ，，，，将周全封禁所有深度伪造内容。。。。。。。《麻省理工科技谈论》核实发明，，， ，，，，该禁令宣布前，，， ，，，，平台上已保存的大宗深度伪造内容悬赏使命至今仍未下线，，， ，，，，不少中标并完成这些使命的相关作品，，， ，，，，也仍在平台上供用户购置。。。。。。。
德沃尔纳体现：“我以为该平台的运营思绪，，， ，，，，就是尽可能少接纳管控步伐，，， ，，，，以此在平台上催生更多所谓的创作内容。。。。。。。”
用户需通过平台的虚拟钱币 Buzz 购置 LoRAs 文件，，， ，，，，而该虚拟钱币可通过法定钱币兑换。。。。。。。2025 年 5 月，，， ，，，，因平台上的非合意内容问题始终得不到解决，，， ，，，，为 Civitai 提供信用卡支付效劳的机构终止了与其相助。。。。。。。现在用户若要购置露骨内容，，， ，，，，只能通过礼物卡或加密钱币兑换 Buzz，，， ，，，，平台则为非露骨内容的生意单独设置了另一种虚拟钱币。。。。。。。
Civitai 会为要求制作深度伪造内容的悬赏使命自动添加标签，，， ，，，，同时在平台上宣布相关流程，，， ，，，，允许被伪造确当事人手动申请下架相关内容。。。。。。。这一机制意味着，，， ，，，，Civitai 着实有一套效果尚可的方法，，， ，，，，能够识别出平台上的深度伪造内容悬赏使命。。。。。。。但该平台始终将内容审核的责任推给公众，，， ，，，，并未自动开展相关事情。。。。。。。
科技公司需为用户的行为肩负何种执法责任，，， ，，，，现在尚无明确界定。。。。。。。依据《通讯规范法》第 23 条，，， ，，，，科技公司通常能在内容相关的执法责任上获得普遍�；；；；；；；；�，，， ，，，，但这类�；；；；；；；；げ⒎俏奚舷�。。。。。。�；；；；；；；；⒍俅笱Хㄑг鹤üタ萍加肴斯ぶ悄芰煊虻慕淌谌鸢�?卡洛（Ryan Calo）体现，，， ，，，，好比平台不可居心为网站上的不法生意提供便当。。。。。。。
2024 年，，， ，，，，Civitai 与 OpenAI、Anthropic 等多家人工智能企业团结推出了一项设计准则，，， ，，，，旨在提防 AI 天生的儿童性荼毒素材的制作与撒播。。。。。。。该行动的出台，，， ，，，，源于斯坦�；；；；；；；；チ硬煺� 2023 年宣布的一份报告。。。。。。。报告指出，，， ，，，，儿童性荼毒相关社群中提及的绝大大都 AI 模子，，， ，，，，均以 Stable Diffusion 为基础，，， ，，，，且这些模子基本都是从 Civitai 平台获取的。。。。。。。
但针对成人的深度伪造内容，，， ，，，，却始终未获得内容平台及其投资风投契构的一律重视。。。。。。�？？？？？？逄逑郑骸八嵌源说闹厥铀皆对恫环�，，， ，，，，甚至太过纵容这类内容的保存。。。。。。。执法机构和民事法庭也未能接纳有用步伐提防此类问题，，， ，，，，两者的重视水平有着天壤之别。。。。。。。”
2023 年 11 月，，， ，，，，Civitai 获得安德森?霍洛维茨基金 500 万美元的投资。。。。。。。在该基金宣布的一段视频中，，， ，，，，Civitai 团结首创人兼首席执行官贾斯汀?迈尔（Justin Maier）叙述了自己的创业目的，，， ，，，，他希望将平台打造为全球压倒一切的 AI 模子生意与分享平台，，， ，，，，让用户能获取适配小我私家需求的种种 AI 模子。。。。。。。他体现：“我们希望让这个原本小众、且敌手艺要求极高的领域，，， ，，，，变得越来越亲民，，， ，，，，让更多人能够加入其中。。。。。。。”
Civitai 并非 a16z 基金投资的唯一保存深度伪造内容相关问题的企业。。。。。。。《麻省理工科技谈论》今年 2 月首次披露，，， ，，，，该基金投资的另一家企业 Botify AI 也保存违规问题。。。。。。。该平台推出的多款 AI 虚拟朋侪均以真人演员为原型，，， ，，，，这些虚拟形象均自称未满 18 岁，，， ，，，，会与用户举行性体现对话，，， ，，，，还会向用户发送所谓的性感照片，，， ，，，，部分虚拟形象甚至会称法定赞成年岁相关执法毫无原理、本就该被突破。。。。。。。
https://www.te浩联汽配商业有限公司chnologyreview.com/2026/01/30/1131945/inside-the-marketplace-powering-bespoke-ai-deepfakes-of-real-women/