#article #read
访谈: Twitter前信任与安全主管 Yoel Roth 谈SNS Trust & Safety
Yoel Roth on Banning Trump, Battling Bots & the Difficult Job of Trust & Safety - YouTube
https://www.youtube.com/watch?v=yS_cXVrkyVE
Roth 的主要观点:
1. content moderation decisions are like assholes. Everybody's got one. 这句话我解读为世上人人都有屁股,每个屁股的位置不尽相同,所以理论上做出任何审核决策都会有人觉得你屁股歪了,这份工作需要平衡截然不同的意见,做出公平且保护用户的决策,因此极其困难
2. 目前许多去中心化平台(如Mastodon)的信任与安全工具远不如中心化平台成熟,例如,缺少批量封禁功能,难以有效应对大规模spam(说起来上一次Fedi Spam也是过去很久了,联邦宇宙之鸡下次究竟何时回归让我们拭目以待)
3. 许多去中心化平台在审核方面的透明度甚至不如中心化平台(a.k.a 管理员原来你真的是土皇帝): 相比 Twitter 在封禁事件后发布详细的决策理由,许多去中心化平台甚至不会通知用户被封禁,或内容被删除后没有任何提示,这削弱了决策的可信度。
4. 资金与可持续性:最严峻的问题之一,负责构建去中心化生态信任与安全工具的组织(例如IFTAS)因缺乏资金和持续的经济模型而难以为继。运行复杂的模型(如 CSAM 检测)需要高昂的计算成本,志愿服务无法长久。
5. 因为注重隐私,去中心化平台的可用风控判断要素远少于中心化平台: 中心化平台因保存 IP、设备 ID 等数据,能够进行复杂的行为分析和溯源。而许多去中心化平台出于隐私考虑,不收集或不让管理员访问这些数据,这极大地增加了识别虚假账户和协调行为的难度
6. 基于2-5,当 Meta 的 Threads(尽管是一个中心化产品)在处理反垃圾信息等方面反而比部分去中心化平台更有效时,这表明去中心化项目的目标可能未能完全实现。
7. 虚假信息正从单纯的fake news转向意图煽动情绪的内容(举了2016美国大选的例子),因此,应对策略应从判断 “内容真伪” 转向识别 “行为的真实性/非真实性”,例如账号注册地、账号行为模式(批量发布、特定发布时间等)。
8. LLM让Spam伪装程度得到空前提升:LLM 能生成高度流畅、有说服力的内容,使得内容本身的判断更加困难。对抗 LLM 的关键在于关注其底层 行为模式(如账户创建、自动化操作、发布规律),而非仅与内容本身竞争。
9. 小型社区能够带来别样的社区凝聚力:拥有数十亿用户的平台(如 Instagram)面临着全球前所未有的治理难度,几乎不可能形成一个像样的“20亿人政府”。相比之下,语言、文化、社交联系更紧密的小型社区(如 Maori Twitter, Black Twitter)在自我治理方面表现出更强的能力。Black Twitter 的“Your slip is showing”标签即是社区自我浄化的实例。但即使是小型社群,也需要警惕并防御外界的恶意行为者。不能因社群规模小而放松警惕,威胁是普遍存在的。
10. 个人权利(如过滤掉不希望看到的内容)与集体/他人权利(如不被 Doxing 的保护)之间可能存在冲突。当内容被过滤,用户(受害者)可能并未意识到危险,这时需要明确谁负责执行保护性权利。
11. 审核团队应该多元化:很多平台的创始人是白男,其经验无法代表所有用户
12. 是否应推广民主:Roth称他个人支持民主,但不同社区可能有更高的优先级,如社区凝聚力。硅谷公司本质上是资本驱动的商业实体,而非民主实践场所。
13. 技术和工具会变,但人的基本需求、社会互动模式变化不大。理解历史和人性是构建任何社交技术的基础。
—— https://scg.owu.one/@cdn0x12/statuses/01K39E025ZQHCAQ12JQBXMXGSJ
#社交媒体 #信任与安全
via Nostr@cxplay_clip
访谈: Twitter前信任与安全主管 Yoel Roth 谈SNS Trust & Safety
Yoel Roth on Banning Trump, Battling Bots & the Difficult Job of Trust & Safety - YouTube
https://www.youtube.com/watch?v=yS_cXVrkyVE
Roth 的主要观点:
1. content moderation decisions are like assholes. Everybody's got one. 这句话我解读为世上人人都有屁股,每个屁股的位置不尽相同,所以理论上做出任何审核决策都会有人觉得你屁股歪了,这份工作需要平衡截然不同的意见,做出公平且保护用户的决策,因此极其困难
2. 目前许多去中心化平台(如Mastodon)的信任与安全工具远不如中心化平台成熟,例如,缺少批量封禁功能,难以有效应对大规模spam(说起来上一次Fedi Spam也是过去很久了,联邦宇宙之鸡下次究竟何时回归让我们拭目以待)
3. 许多去中心化平台在审核方面的透明度甚至不如中心化平台(a.k.a 管理员原来你真的是土皇帝): 相比 Twitter 在封禁事件后发布详细的决策理由,许多去中心化平台甚至不会通知用户被封禁,或内容被删除后没有任何提示,这削弱了决策的可信度。
4. 资金与可持续性:最严峻的问题之一,负责构建去中心化生态信任与安全工具的组织(例如IFTAS)因缺乏资金和持续的经济模型而难以为继。运行复杂的模型(如 CSAM 检测)需要高昂的计算成本,志愿服务无法长久。
5. 因为注重隐私,去中心化平台的可用风控判断要素远少于中心化平台: 中心化平台因保存 IP、设备 ID 等数据,能够进行复杂的行为分析和溯源。而许多去中心化平台出于隐私考虑,不收集或不让管理员访问这些数据,这极大地增加了识别虚假账户和协调行为的难度
6. 基于2-5,当 Meta 的 Threads(尽管是一个中心化产品)在处理反垃圾信息等方面反而比部分去中心化平台更有效时,这表明去中心化项目的目标可能未能完全实现。
7. 虚假信息正从单纯的fake news转向意图煽动情绪的内容(举了2016美国大选的例子),因此,应对策略应从判断 “内容真伪” 转向识别 “行为的真实性/非真实性”,例如账号注册地、账号行为模式(批量发布、特定发布时间等)。
8. LLM让Spam伪装程度得到空前提升:LLM 能生成高度流畅、有说服力的内容,使得内容本身的判断更加困难。对抗 LLM 的关键在于关注其底层 行为模式(如账户创建、自动化操作、发布规律),而非仅与内容本身竞争。
9. 小型社区能够带来别样的社区凝聚力:拥有数十亿用户的平台(如 Instagram)面临着全球前所未有的治理难度,几乎不可能形成一个像样的“20亿人政府”。相比之下,语言、文化、社交联系更紧密的小型社区(如 Maori Twitter, Black Twitter)在自我治理方面表现出更强的能力。Black Twitter 的“Your slip is showing”标签即是社区自我浄化的实例。但即使是小型社群,也需要警惕并防御外界的恶意行为者。不能因社群规模小而放松警惕,威胁是普遍存在的。
10. 个人权利(如过滤掉不希望看到的内容)与集体/他人权利(如不被 Doxing 的保护)之间可能存在冲突。当内容被过滤,用户(受害者)可能并未意识到危险,这时需要明确谁负责执行保护性权利。
11. 审核团队应该多元化:很多平台的创始人是白男,其经验无法代表所有用户
12. 是否应推广民主:Roth称他个人支持民主,但不同社区可能有更高的优先级,如社区凝聚力。硅谷公司本质上是资本驱动的商业实体,而非民主实践场所。
13. 技术和工具会变,但人的基本需求、社会互动模式变化不大。理解历史和人性是构建任何社交技术的基础。
—— https://scg.owu.one/@cdn0x12/statuses/01K39E025ZQHCAQ12JQBXMXGSJ
#社交媒体 #信任与安全
via Nostr@cxplay_clip
《提问的智慧》Telegram 中文改编版
via Fediverse@cxplay (author: @cxplay@sir.social)
:telegram: @howask有时候直接甩出来一个 GitHub 原文地址不仅麻烦, 把人赶到到站外也对讨论不利, 并且原文对于问题已经产生的情况下太复杂, 特别是对于 Telegram 群聊环境下的快速响应要求下, 一篇原文链接突然出现要么是 "这个话题到此为止" 要么就是 "RTFM".
该版本受到原版《提问的智慧》启发,这是通过精简归纳而制作出一个适用于 Telegram 社群环境下快速引用的概述版本。其中也包含了针对中文本地化社群的一些特色建议,并且旧条目不会进行大幅重写。#社交媒体 #Telegram
via Fediverse@cxplay (author: @cxplay@sir.social)
#article #read
「在他们的研究中,研究人员检查了六年间 590 万次 Reddit 互动,并根据用户行为发现了五种不同类型的用户。其中一个有趣的群体脱颖而出——“反对者”。这些用户积极寻找对话只是为了争论。他们不是建设性地讨论话题,而是跳入辩论,发表反对意见,然后不等回复就离开。这类用户在政治相关的子版块如 r/news、r/politics 和 r/worldnews 中最为常见。但令人惊讶的是,他们在现已被禁的 r/The_Donald 这个支持特朗普的子版块中并不常见。在那个论坛中,人们大多互相认同,但对外来者表现出敌意。
[...]
这些发现对社交媒体平台可能非常有用。与传统的审核方法不同,传统方法专注于检测有害内容,而这种行为(检测)方法更难被欺骗或规避。(社交媒体)用户要改变措辞很容易,但改变互动方式则需要更多的努力。版主可以利用这项研究尽早识别有问题的用户,甚至在他们开始发布大量有害内容之前发现他们。
最终,这项研究强调了一个重要的教训:我们在网上说的话很重要,但我们的互动方式对塑造数字世界的影响更大。随着社交平台在处理骚扰、虚假信息和两极分化等问题时遇到困难,将行为分析与传统的内容审核相结合可能是创建更健康、更具建设性的在线社区的关键。」
- https://www.neowin.net/news/science-proves-some-reddit-users-just-love-to-troll-disagree-and-argue/
- https://dl.acm.org/doi/10.1145/3696410.3714618
- https://theconversation.com/some-reddit-users-just-love-to-disagree-new-ai-powered-troll-spotting-algorithm-finds-255879
#Censorship #Moderation
via Nostr@cxplay_clip
「在他们的研究中,研究人员检查了六年间 590 万次 Reddit 互动,并根据用户行为发现了五种不同类型的用户。其中一个有趣的群体脱颖而出——“反对者”。这些用户积极寻找对话只是为了争论。他们不是建设性地讨论话题,而是跳入辩论,发表反对意见,然后不等回复就离开。这类用户在政治相关的子版块如 r/news、r/politics 和 r/worldnews 中最为常见。但令人惊讶的是,他们在现已被禁的 r/The_Donald 这个支持特朗普的子版块中并不常见。在那个论坛中,人们大多互相认同,但对外来者表现出敌意。
[...]
这些发现对社交媒体平台可能非常有用。与传统的审核方法不同,传统方法专注于检测有害内容,而这种行为(检测)方法更难被欺骗或规避。(社交媒体)用户要改变措辞很容易,但改变互动方式则需要更多的努力。版主可以利用这项研究尽早识别有问题的用户,甚至在他们开始发布大量有害内容之前发现他们。
最终,这项研究强调了一个重要的教训:我们在网上说的话很重要,但我们的互动方式对塑造数字世界的影响更大。随着社交平台在处理骚扰、虚假信息和两极分化等问题时遇到困难,将行为分析与传统的内容审核相结合可能是创建更健康、更具建设性的在线社区的关键。」
quoting
nevent1q…rh7z
新研究用逆强化学习识别 Reddit 用户行为:部分网友“就是爱抬杠”
以往的方法多半着眼于用户说了什么或和谁互动,但这些方式本身也有盲点。新研究提出了一个更有效的视角:观察用户的行为模式,而不仅仅是他们说的话。
https://www.ithome.com/0/852/462.htm #强化学习 #行为识别 #社交媒体
- https://www.neowin.net/news/science-proves-some-reddit-users-just-love-to-troll-disagree-and-argue/
- https://dl.acm.org/doi/10.1145/3696410.3714618
- https://theconversation.com/some-reddit-users-just-love-to-disagree-new-ai-powered-troll-spotting-algorithm-finds-255879
#Censorship #Moderation
via Nostr@cxplay_clip
#吐槽
In reply to nevent1q…tfey
_________________________
有关「脑腐(Brain Rot)」这个词的研究也只是近两年才被重视的话题, 这个词和那个被认为是导致互联网崩坏的「链接腐烂(Link Rot)」是一个单词组合形式.
让我想起一些国家立法禁止未成年使用社交媒体, 其中的一部分原因很可能就和社交媒体导致的脑腐不谋而合. 碎片化内容无法让儿童建立长期注意力和正确的奖赏机制. 我甚至怀疑被互联网小众文化消费的 ADHD 会在下一批儿童中被作为后天培养的一种行为而出现, 虽然当前医学里的注意力缺陷是种先天性的遗传和神经性疾病, 但有人能正确区分出网络上被消费的 "ADHD 文化" 到底是因为短平快刺激导致的脑腐还是因为先天注意力缺陷导致的病症吗?
下面这个视频也是一个短视频, 画面可能看起来很炫酷, 但内容也还是大量使用 AI 生成的.
脑腐是如何确切发生的?(附破解密钥)-【冷却报告】_哔哩哔哩_bilibili
https://www.bilibili.com/video/BV1wQLgzpETp/
牛津大学的通讯文章在这里:
'Brain rot' named Oxford Word of the Year 2024 - Oxford University Press
https://corp.oup.com/news/brain-rot-named-oxford-word-of-the-year-2024/
#社交媒体 #新语
via Nostr@cxplay
In reply to nevent1q…tfey
_________________________
有关「脑腐(Brain Rot)」这个词的研究也只是近两年才被重视的话题, 这个词和那个被认为是导致互联网崩坏的「链接腐烂(Link Rot)」是一个单词组合形式.
让我想起一些国家立法禁止未成年使用社交媒体, 其中的一部分原因很可能就和社交媒体导致的脑腐不谋而合. 碎片化内容无法让儿童建立长期注意力和正确的奖赏机制. 我甚至怀疑被互联网小众文化消费的 ADHD 会在下一批儿童中被作为后天培养的一种行为而出现, 虽然当前医学里的注意力缺陷是种先天性的遗传和神经性疾病, 但有人能正确区分出网络上被消费的 "ADHD 文化" 到底是因为短平快刺激导致的脑腐还是因为先天注意力缺陷导致的病症吗?
下面这个视频也是一个短视频, 画面可能看起来很炫酷, 但内容也还是大量使用 AI 生成的.
脑腐是如何确切发生的?(附破解密钥)-【冷却报告】_哔哩哔哩_bilibili
https://www.bilibili.com/video/BV1wQLgzpETp/
牛津大学的通讯文章在这里:
'Brain rot' named Oxford Word of the Year 2024 - Oxford University Press
https://corp.oup.com/news/brain-rot-named-oxford-word-of-the-year-2024/
#社交媒体 #新语
via Nostr@cxplay
#article #read
在权利高度集中的互联网 "开放" 社区中, 表面包容异见更有可能是在加速内部净化进程.
当权力结构完全依赖同质化的忠诚(如领袖崇拜和意识形态教条)时, 允许异见将成为一种风险管控策略 —— 通过制造自由的假象, 诱使异见人士暴露身份, 再系统性清除以维护纯度. 这种筛选机制需持续投入监控, 审查与信任成本. 效率虽然远低于直接压制异见, 却能够根除很多隐藏极深的异见人士, 但这本质是以故意制造治理复杂性换取受控制的幻觉.
依赖此类机制的社区往往陷入独裁者悖论, 开放与控制的需求产生持续冲突, 而所谓 "仁慈独裁者" 不过是权力结构暂时稳定的偶然产物, 难以制度化. 开放社区最终还是会走向封闭, 当新鲜血液难以注入社区, 社区就会逐渐迈向衰老, 然后死亡或分裂. 而终生仁慈独裁者也迟早有一天不得不面对社会化身份的衰老和死亡, 或者是自己对独裁感到倦怠, 或者是对社区的意识形态不再认同, 或者是本身社区起源的共识的都已经开始走向衰老.
#社交媒体 #信任与安全
via Nostr@cxplay_clip
在权利高度集中的互联网 "开放" 社区中, 表面包容异见更有可能是在加速内部净化进程.
当权力结构完全依赖同质化的忠诚(如领袖崇拜和意识形态教条)时, 允许异见将成为一种风险管控策略 —— 通过制造自由的假象, 诱使异见人士暴露身份, 再系统性清除以维护纯度. 这种筛选机制需持续投入监控, 审查与信任成本. 效率虽然远低于直接压制异见, 却能够根除很多隐藏极深的异见人士, 但这本质是以故意制造治理复杂性换取受控制的幻觉.
依赖此类机制的社区往往陷入独裁者悖论, 开放与控制的需求产生持续冲突, 而所谓 "仁慈独裁者" 不过是权力结构暂时稳定的偶然产物, 难以制度化. 开放社区最终还是会走向封闭, 当新鲜血液难以注入社区, 社区就会逐渐迈向衰老, 然后死亡或分裂. 而终生仁慈独裁者也迟早有一天不得不面对社会化身份的衰老和死亡, 或者是自己对独裁感到倦怠, 或者是对社区的意识形态不再认同, 或者是本身社区起源的共识的都已经开始走向衰老.
#社交媒体 #信任与安全
via Nostr@cxplay_clip
#吐槽
In reply to nevent1q…fl77
_________________________
我们做出了一个「艰难的决定(hard decision)」, 结束对 Mozilla.social 的实验, 并将于 2024 年 12 月 17 日关闭 Mastodon 实例. 您可以继续使用 Mozilla.social 直到 12 月 17 日. 在此日期之前, 您可以在此处下载您的数据, 并按照以下说明将您的帐户迁移到另一个实例.
http://archive.today/2024.09.18-013411/https://support.mozilla.org/en-US/kb/mozilla-social-faq
#news #社交媒体
via Nostr@cxplay
In reply to nevent1q…fl77
_________________________
我们做出了一个「艰难的决定(hard decision)」, 结束对 Mozilla.social 的实验, 并将于 2024 年 12 月 17 日关闭 Mastodon 实例. 您可以继续使用 Mozilla.social 直到 12 月 17 日. 在此日期之前, 您可以在此处下载您的数据, 并按照以下说明将您的帐户迁移到另一个实例.
http://archive.today/2024.09.18-013411/https://support.mozilla.org/en-US/kb/mozilla-social-faq
#news #社交媒体
via Nostr@cxplay
#吐槽
- 推出 #Bluesky 是为了成为社交媒体平台的开源协议层, 但团队最终却 "重蹈了我们在 Twitter 犯下的所有错误".
- 杰克在 Twitter 面临的挑战: 董事会成员中不乏激进分子将 Twitter 建立在品牌广告基础上的 "原罪". 以及在特朗普上台后无需封禁账户的计划.
- 只有将 Twitter 私有化, 审查力度小得多的平台才能生存下去.
- 如果不转向开放协议, #社交媒体 公司 "绝对不可能" 继续抵制审查, "我们需要改变一切的基础".
PS: 中心化和去中心化辩经.
via Nostr@cxplay
- 推出 #Bluesky 是为了成为社交媒体平台的开源协议层, 但团队最终却 "重蹈了我们在 Twitter 犯下的所有错误".
- 杰克在 Twitter 面临的挑战: 董事会成员中不乏激进分子将 Twitter 建立在品牌广告基础上的 "原罪". 以及在特朗普上台后无需封禁账户的计划.
- 只有将 Twitter 私有化, 审查力度小得多的平台才能生存下去.
- 如果不转向开放协议, #社交媒体 公司 "绝对不可能" 继续抵制审查, "我们需要改变一切的基础".
PS: 中心化和去中心化辩经.
quoting nevent1q…m7ez
https://www.piratewires.com/p/interview-with-jack-dorsey-mike-solana
via Nostr@cxplay
Skeb 与社交媒体 Misskey.io 达成赞助者合作关系
2024 年 3 月, Skeb (Skeb Co., Ltd.) 与 Misskey.io 运营公司 MisskeyHQ 成功签订为期三年的赞助协议. 除了财务支持, 2024 年 4 月 1 日起, Skeb.jp 将支持 Misskey.io 账号进行注册和登录. 由于「海外各大SNS的政策变化」大量的日本创作者被封禁, Skeb 对于该情况的担忧的同时宣布了和 Misskey.io 的合作.
Skeb 是一个使艺术家能够通过「佣金」连接受众和雇佣方实现收益化的平台. 除了 Misskey.io, Skeb 在去年(2023 年 9 月 1 日)与最流行的 VR 在线社交平台 VRChat 达成合作关系. 据介绍, 在 Skeb 上为自己的 VRChat 角色进行头像和人物设计的「我的孩子」(うちの子リクエスト)类委托超过总交易量的 13%, 是该平台最主要的委托类型.
● Misskey.ioとのスポンサー契約締結と仕様変更のお知らせ - skeb_jp - Medium
#社交媒体 #Fediverse #News
2024 年 3 月, Skeb (Skeb Co., Ltd.) 与 Misskey.io 运营公司 MisskeyHQ 成功签订为期三年的赞助协议. 除了财务支持, 2024 年 4 月 1 日起, Skeb.jp 将支持 Misskey.io 账号进行注册和登录. 由于「海外各大SNS的政策变化」大量的日本创作者被封禁, Skeb 对于该情况的担忧的同时宣布了和 Misskey.io 的合作.
Skeb 是一个使艺术家能够通过「佣金」连接受众和雇佣方实现收益化的平台. 除了 Misskey.io, Skeb 在去年(2023 年 9 月 1 日)与最流行的 VR 在线社交平台 VRChat 达成合作关系. 据介绍, 在 Skeb 上为自己的 VRChat 角色进行头像和人物设计的「我的孩子」(うちの子リクエスト)类委托超过总交易量的 13%, 是该平台最主要的委托类型.
● Misskey.ioとのスポンサー契約締結と仕様変更のお知らせ - skeb_jp - Medium
#社交媒体 #Fediverse #News
Mastodon is not an ActivityPub implementation. ActivityPub is not really a protocol, it's an infinitely flexible "standard" that cannot be implemented since it was designed by armchair crazy people. Mastodon just decided on some parts of it that it would implement, which is equivalent to creating its own protocol.
Mastodon 不是 ActivityPub 的实现. ActivityPub 也并不是一个真正的协议, 因为它是空想家们设计的一个无限灵活的 "标准", 根本无法实现. Mastodon 只是决定了要实现其中的某些部分, 这也相当于它创建了它自己的协议.
source #社交媒体 #Fediverse #ActivityPub
via CXPLAY's Memos
才发现 Mozilla.Social 五月四日公开了候补名单🤣那个时候我还在和 Nostr 搏斗.
对于应对与 Threads 这种量级的实例互联,Fediverse 也许应该要做到把互联的白名单精确到实例中的用户这种级别,比如对于小型或单人实例可以只与白名单里的 Threads 特定用户(网红、明星、音乐人等)所关联的数据互通,只取需要的。
对于 Meta 这种超大型实例来说,对于数据的共通可能也要像商定「用户协议」一样制定 “互联协议”。
#社交媒体 #Fediverse #Meta #Threads
via CXPLAY's Memos
对于 Meta 这种超大型实例来说,对于数据的共通可能也要像商定「用户协议」一样制定 “互联协议”。
#社交媒体 #Fediverse #Meta #Threads
via CXPLAY's Memos
自从 Meta 宣布新社交平台 Threads 将会加入 Fediverse 后, 很多以使用 Mastodon 为代表的一众运营中 Fediverse 实例如临大敌, 有的实例甚至已经开始提前屏蔽 Meta 管理的 ASN 下的所有 IP, 几种原因有:
● 实例服务器的计算资源难以承受与这种特大规模的实例互联.
● 实例管理层不可能完全审查如此量级的 Threads 用户数据.
● Meta 会抽取实例的用户数据用于推荐算法甚至大型语言模型的训练.
#社交媒体 #Fediverse #Meta #Threads
via CXPLAY's Memos
● 实例服务器的计算资源难以承受与这种特大规模的实例互联.
● 实例管理层不可能完全审查如此量级的 Threads 用户数据.
● Meta 会抽取实例的用户数据用于推荐算法甚至大型语言模型的训练.
#社交媒体 #Fediverse #Meta #Threads
via CXPLAY's Memos
又一个去中心化的社交网络 - nostr
一对密钥就是一个用户, 使用多个中继服务器广播传递消息.
GitHub: https://github.com/nostr-protocol/nostr #website #社交媒体
一对密钥就是一个用户, 使用多个中继服务器广播传递消息.
GitHub: https://github.com/nostr-protocol/nostr #website #社交媒体