| |
|
|
| 首页 淘股吧 股票涨跌实时统计 涨停板选股 股票入门 股票书籍 股票问答 分时图选股 跌停板选股 K线图选股 成交量选股 [平安银行] |
| 股市论谈 均线选股 趋势线选股 筹码理论 波浪理论 缠论 MACD指标 KDJ指标 BOLL指标 RSI指标 炒股基础知识 炒股故事 |
| 商业财经 科技知识 汽车百科 工程技术 自然科学 家居生活 设计艺术 财经视频 游戏-- |
| 天天财汇 -> 科技知识 -> 用 AI「复活」逝者，已发展成一门生意，专家称现有法律难以对此规制，如何看待这一现象？ -> 正文阅读 |
|
|
[科技知识]用 AI「复活」逝者，已发展成一门生意，专家称现有法律难以对此规制，如何看待这一现象？ |
| [收藏本文] 【下载本文】 |
|
“只需要52.1元，就能还原逝去亲人的容貌并和ta聊天。”生成式AI技术的发展浪潮之下，与逝去的亲人“再见一面”似乎日渐成为可能。 《法治日报》记者近… |
|
最近关注了一下人工智能的法律规制问题。 有不少学者有提过这样一种质疑，AI技术发展最终是要与伦理道德相向而行的。 其实，凡是新事物诞生，胆大的走非主流路线的，第一波基本是能撸到钱的。从微商到社群、从数字货币到区块链、从元宇宙到直播带货，再到现在的AI数字人，每个阶段都有一波人利用信息差踩在风口上获利。 所以对人工智能的法律规制的核心问题是，AI不能成为降低犯罪门槛的工具。 AI复活逝者这件事，双方都知道数字人是假的，也都明白这只能对精神上聊以慰藉。之所以有市场，还是因为契合了普通人怀念亲人最朴实的内心期待。 在刑法上，AI换声、AI换脸等诈骗手段也越来越高级，AI“复活”最大的风险可能在于欺骗用户的情感的同时还被欺骗了钱财。 现在为了实现AI数字人与用户的深度对话，制作团队一般会将自身产品接入大型模型系统，由大型模型系统作为数据库提供语料支持。在这个过程中，很可能出现一些不法用户，通过视频操控数字人，诱导数字人向亲友提问类似银行卡密码等隐私信息。 而目前人工智能立法状态一直是滞后的，处于旧的问题没解决新的问题又频发的阶段。 法律规范不健全的情况下，做个风险提示吧： 1.关于生命伦理问题。人死不能复生，虚拟人毕竟只是一串代码，虚拟感情的慰藉之后还要回归现实生活。 2、关于侵权问题。商业盈利导向的业务要征得当事人家属的同意，否则擅自用逝者肖像权、声音权等行为，构成人格权侵权和知识产品的侵权。 3、关于技术安全问题。逝者的音频、视频资料如果被滥用或泄露，造成隐私泄露要承担民事责任甚至刑事责任；如果将技术用于不法目的，如诈骗、虚假宣传等，最后是要进橘子的。 |
|
民法典994条规定了死者肖像及人格不可侵犯，并由亲友追偿的内容，所以在死者生前明确同意生成AI数字人或死者亲友一致同意的情况下，实务上是没什么法律风险的。 至于专家提的，重点不是侵权行为，而是高科技诈骗。对此，我们不能因咽废食。可以理解部分人希望使用这项技术，并且这也不是多么难的技术，那么有合理的市场，就要允许市场化的服务。 而防范诈骗，则是警民企三管配合治理的：一要提高刑侦效率和防诈宣传；二要提高自身防诈意识；三是企业（社交平台）改善服务，避免诈骗行为的发生。为什么要提企业，是因为某些社交平台和app在协议里把账户定义为企业的财产，而用户只是授权使用该账户，那么用户被企业拥有的其他账户诈骗时，就不该付责并预先代偿吗？ 总之，多方协同一定能处理好这个新现象，难道我们真的需要新设什么AI复活许可证的事项吗？这不太搞笑了吗？！ |
|
未来关于AI都诈骗，可能会爆发式增长。 香港某公司，被诈骗分子AI换脸技术骗走了2亿港元，就是最新的诈骗案例。 |
|
|
Ai复活逝者，给家属提供便利。同时，也是一门好生意。 目前来看，对于AI复活逝者的技术，有人看到了商机，有人看到了潜力，有人看到“亲人”的记忆。 法律对于AI这块，还没有来得及完善。 所以，给有AI技术的网店和平台建议，如果有人来复活逝者，一定要核实信息，做好掌管登记。 如果来复活逝者的客户，有能够证实和逝者关系的证明，那就最好。 要是没有证明，那有可能会带来一定的风险。因为随意拿他人照片和视频去AI“复活”处理，或者被不法分子拿去诈骗他人，那有可能涉嫌侵权，需要承担法律责任。 《中华人民共和国民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。 |
|
|
来源于网络 Ai技术带给我们便利和生意的同时，也会滋生更加高科技的诈骗。 比如最常见的是冒充熟人诈骗，某一天你的亲属打个视频通话过来，说他在外边遭受了意外情况，需让你马上给他汇款过去解决。 在视频通话中，你确实看到了亲属，也听到熟悉的声音。是那么的亲切，又是那么的真实。 但你不知道有人通过AI换脸技术，以及和声音克隆模仿你亲属的容貌、声音、表情等。以这种方法来冒充亲属，骗取你的信任，以达到诈骗钱财的目的。 《法治日报》记者近日调查发现，用AI“复活”逝去的人，已经发展成了一门生意。在一些电商平台上，有不少做AI“复活”生意的商家。在某电商平台，AI“复活”的商品标价从几元、几十元到上百元乃至数千元。与此同时，近年来，AI换声、AI换脸等诈骗手段也越来越高级，欺骗用户的情感和钱财。 科技在不断的进步，飞速发展的今天，眼见不一定为实。在AI面前，你所看到的未必都是真相。 |
|
|
最近看了一则关于AI换脸的反诈宣传视频，真的是让人毛骨悚然。视频里的女儿说自己护照丢了，在撒娇向母亲要钱。 母亲在准备转账的时候，门铃突然响起来，一开门才发现是女儿回来了。 可视频聊天当中的女儿，依然在那里喊妈妈转账，让她快点给钱……网友说，比恐怖片更加的恐怖。 看了视频的整个过程，才发现ai换脸技术如果被不法分子拿来搞诈骗，那确实很可怕，让人防不胜防。 |
|
|
0 对于AI换脸诈骗，我们有没有办法来预防？ 答案是肯定有的。 万骗不离其宗，最终目的是为了钱。 Ai换脸诈骗有它的漏洞和软肋，不管如何换脸，克隆声音，可诈骗分子始终无法克隆亲属银行卡和掌握密码。 所以，诈骗分子会让你把钱转到陌生的银行卡，并非是亲属本人的账户。 也就是说，预防AI换脸诈骗最好的办法，就是不要向亲属提供的陌生账户进行转账。即使要转账的话，就直接转到亲属的账户。 同时，大家一定要保护好自己的银行卡信息，包括银行卡密码，以及手机验证码等。 |
|
|
现实生活当中，我们如何辨别Ai诈骗？ 1、如果你接到亲属的视频聊天，视频当中让你给钱的，你先挂断聊天。然后拨打亲属的电话进行确认。 2、如果你接到的是电话，你反过来也可以用视频聊天进行验证。 以上两步相互确认，相互印证也就能够辨别真假。关于AI诈骗的预防和识别，请朋友们一定要记住了。 我是反诈罗罗，希望你不要被诈骗。 |
|
建议很好，但没有什么用。 按照现在的技术发展速度，最多在5年之内，是完全可以出现即体验相当完美的单机版的这类生成式AI的，并且这些应用的操作大概率会非常简单，大概你输入一定量的视频、语音等资料，就可以在很短的时间内按照你的需求出现符合你需求的视频。 按照现在的技术手段来说，就是ChatGPT这类AI先学习别人的说话习惯，各种换脸AI以及制作数字人的应用负责生成数字人，而Sora这类AI再根据需要创作的剧情生成视频。 当技术进化到这个地步之后，创作的主动权就完全转移到了个人手上。想“复活”亲人自然不是什么难事，而如果你喜欢某个明星艺人，也完全可以定制一个你跟他主演的没羞没臊的爱情电影。甚至，你可以选择你自己喜欢的老师，搭配上AR、VR技术以及相关智能“硬件”，带来身临其境的专属体验。 这玩意儿只要不传播，人家就是拿来自己玩，你怎么禁？ 至于说现在有人愿意掏钱让别人制作这种内容，最主要的原因还是这类技术刚刚普及，对普通人来说还有一点门槛。所以，一些不熟悉技术的人需要掏钱让人来做。但是从最高不过几百元的收费标准来看，这个制作的难度其实是非常低的。目前阶段，只是有人在利用这个信息差赚钱而已。 而关于AI时代的防诈问题，这同样也要依靠技术手段来解决。这一点我之前也说过，诈骗与防诈是一个矛与盾互相进化的过程。对于如何防止AI诈骗的问题，金融机构、公安机构等比我们更为操心——因为如果用人利用这种技术绕过他们的认证，可能会对金融安全、公共安全等造成极大地危害，银行是不可能不在乎自己的钱的。 从技术的发展史来看，任何一项技术往往都要经历“工厂化”到“个人化”这个技术的进化。比如，在过去，个人想要大规模复制传播自己的观点，只能通过印刷厂。而一旦使用印刷厂，那么印刷厂的庞大规模和大量的人员是无法遮掩的，因此监管部门就可以通过对印刷厂的监管——比如要求需要印制资料的人提供各种手续材料——来对内容传播进行监管。但是，等到打印机、复印机和PC出现了，这种监管也就在很大程度上失去了意义——因为你无法知道别人用打印机打印了什么。 现在的AI，有一些还处于“印刷厂”阶段，但不久之后“打印机”就会出现的。法律最多能管得了“印刷厂”干什么，但管不住“打印机”干什么。 而AI时代的“打印机”，可能很快就会出现， |
|
想起前两天的一个梦。 梦里终于再次见到了父亲。 好长时间没梦到过他，虽然梦境模糊，看不清脸，但一直很笃定那就是他。 我问父亲，最近身体怎么样？ 他一直笑着，不置可否。 我和他并行了一段路，他一直不说话，而我一直在探问他身体情况。 梦醒。 被刺眼的晨光一晃，一时没反应过来哪个是现实。 哦，原来父亲已经去世11年的这个世界，是现实。 原来我在梦里，包括以前很多次梦一直都不相信父亲已去世。一直觉着他虽然身体不好但健在。 11年，我想念父亲，但印象一直愈加模糊，有时甚至都想不起他的样子和声音。 如果现在有个AI可以再现父亲的神采，我愿意在能力范围内买单，愿意再看看他，听他说说话，甚至对话。 虽然我知道那是AI，不是父亲，但我真的想他。 ……… 说回来，为什么AI复活可以成为一门生意，因为它契合了我们的情感需求。 理性和法律可以规范，但情感才是我们之所以为人的最耀眼标记。 |
|
用AI“复活”亲人，这个行为的本身是科技带给我们的温度，但是我们也需要注意保护好亲人的生物信息，尊重亲人的意愿，保护亲人的隐私不被传播滥用。 |
|
|
一、意义 前一段，商汤科技运用数字人技术复活了商汤科技的创始人兼董事长、人工智能科学家汤晓鸥老师，相信所有看过视频的人都会被这个视频代表的意义所感动。 商汤的如影数字人团队，用几个十来秒的片段，用数字人技术"复活"了汤老师，在这个视频中，汤老师的脱口秀能说，能笑，能喝水能打趣，栩栩如生。 人工智能数字人技术的发展，让他在商汤的年会上，用这个特别的方式，与大家见面。 |
|
|
这也许就是科技进步的意义，让我们能够有更多的可能性，挽回我们心中的思念。 而在这个问题讨论上，我觉得知名博主 @数字生命卡兹克 的文章这一段文字写的非常好： 人当然不应该沉溺于过去，但也最好不要太过豁达与释然。 时间会让你接受所有，会让你有一天终究会遗忘。 遗忘是一件非常可悲的事情，会让你化身铁人，仿佛无坚不摧。 可谁要这种无坚不摧？ 我只想让心中的思念，那份寄托，留的更久一点，我不想遗忘，我想记得，再多记得一些。 我觉得这就是AI的意义，这就是数字人，最好的意义。[1]二、技术实现 说完了正面的意义，我也想在谈一下关于技术实现难度和市场的情况。 数字人技术，随着人工智能语言大模型中对于长文本读取、图片高清修复、语音合成以及AI数字人视频技术的提高，已经不是什么难事，也有专门从事AI数字人的团队。 |
|
|
AI数字人可能用到工具一栏 但是定制的深度模仿人类的数字人生成，并不简单，需要较多的数据采集，费用也不便宜。 而简单的数字人生成，其实仅仅是套用了照片，进行简单的AI视频处理，并不能达到正在“复活”逝去人个性的需求。 正在想要“复活”逝去的人，需要的是他生前较多的对话记录、声音、图像资料的综合内容，创建一个符合他形象的“智能体”。 而这个工作量，我认为几百块钱以下是不太不可能做到的，付出精力和收入不成正比。 |
|
|
哪些几块几十的，往往就是我前面说的简单的照片+通用的声音+通用文案处理。 这种也能给一些人一些情感上的慰藉，但市场上其实也有免费的人工智能软件可以做到，例如文心一言APP的智能体数字分身。 创建过程可以参见我这个回答，需要注意，这个仅仅针对最为简单的照片动起来这个需求： 北京通院推出通用智能体「通通」，拥有类人价值观和物理常识，这意味着什么？30 赞同 · 12 评论回答 |
|
|
因此，对于真正想要复活亲人的人来说，需要认真了解清楚服务内容，才能避免自己的愿望落空。 三、隐私 而关于隐私方面，我觉得才是需要引起大家重视的，我们在网上冲浪，或多或少都泄露了一些个人的信息，请大家务必注意面部高清生物特征及声音等其他重要信息，一定不要随意给到不认识的陌生人。 |
|
|
AI换脸技术的飞速发展，已经到真假难辨的地步，通过一些AI工具，包括AI绘画、AI数字人视频、以及现在很成熟的AI语言合成技术，可以用极小的训练量来复现基于本人生物特征的数字人形象视频。 现在人工智能的发展，让高科技诈骗变得更为简单，关于这一点，我之前也有文章有写到，有兴趣的小伙伴可以点开查看。 AI 换脸新型诈骗，如何应对人工智能背景下的「高科技诈骗」？25 赞同 · 15 评论回答 |
|
|
结语 科技的发展应该是造福人类，给我们留下有温度的记忆。 现在防诈骗的人工智能技术也在不断发展，包括AI生成图片水印，智能助手提醒等等手段也在与诈骗分子进行较量，未来肯定会有更加优秀的防控手段，保护我们的生活。 |
|
|
不要让诈骗这些阴影，阻拦了科技发展给大众的印象，相信随着科技的发展，这一场矛与盾的较量，最终会让我们的生活朝着更加美好的方向奔去。 期待科技带给我们更多的感动。 我是德里克文，一个对AI绘画，人工智能有强烈兴趣，从业多年的室内设计师！如果对我的文章内容感兴趣，请帮忙关注点赞收藏，谢谢！ 参考^来源于@数字生命卡兹克 文章 https://zhuanlan.zhihu.com/p/684977405 |
|
AI复活和AI变声变脸诈骗，不是一回事，是基于AI技术的两种对立现象，本质上讲AI只是工具，要规制也是规制基于AI的违法违规行为。 一个产业的发展，只要其带来的是更多的收益，更多的便捷，更先进的技术，理论来讲都是好的。无论白猫还是黑猫，抓到耗子就是好猫，不能因为AI的进步被犯罪份子非法利用就否定AI，全盘拒绝AI。 相反，越无法规制，我们就越要迎头赶上，监管部门要走的更快、更前沿，尽量少让变声换脸钻空子。 就像知乎对于AI写作，不也有相关的规则么，不是完全不能用，是要标注ai来源，是不能与原创划等号。但利用AI工具得当，图文并茂，论述精彩的回答或文章，就算有部分AI元素，也能够得到大家的好评高赞。 AI「复活」逝者，实际上是将人们日常所思所想，利用最新技术手段还原。在以往只存在于人脑海中的，现在能变成影像，对于人们的解相思苦，确实能够起到非常好的作用。 如果技术进一步发展，可能有机会利用ai和机器人技术，让逝者回来，变得更活灵活现在面前，那么是极大的安慰还是带来更大的伦理风险呢？ 科技一步步在实现人类的梦想，那些利用人们要圆梦来做坏事的非法份子，却利用科技进步，为达成其目的来破坏进步带来的美好。 前些日子和地方经侦支队领导一起喝茶，他也聊到了现在很多诈骗案利用ai变声换脸的，但是占比最多的案子还是利用人贪便宜的思想而发生的。 他提醒我，那种身边人和熟人明显异于常态的电话和留言，那些与正常收益率相比明显偏高的投资，千万不能相信，一个人不可能突然转变性子开口向你要钱，天上掉馅饼的事情也不可能发生。 至于陌生人，那就更不要在钱财情感上去予以信任了，抑制贪恋，用正常思维分析和做出反应，就能够最大程度避免受到诈骗和伤害。 |
|
科技永远在发展，而法律却又永远有滞后性，即便以最快的速度开始制定法律，也难以与技术拥有同一“时效性”。 |
|
|
AI技术模拟逝者的样子，给家属慰藉，带来精神力量，从这个角度来看，确实是科技的优势。但与此同时也需要担心AI技术直接用来模拟真人用于熟人间的行骗。 技术本身是没有错的，而是如何规范使用技术的人。虽然没有法律直接规定AI技术的使用方式，但是诈骗罪是有规定的:《中华人民共和国刑法》第二百六十六条 诈骗罪是指以非法占有为目的，使用欺骗方法，骗取数额较大的公私财物的行为。 对于利用AI行骗，大家要注意防范，至于AI还会出现哪些问题，或许需要时间的检验。不妨脑洞大一点，会不会有人利用AI技术制作逝者的遗嘱呢？ |
|
“要不要和媒体朋友打个招呼？” 对方回复：“媒体朋友你们好，很高兴认识你们。” 这是音乐人包小柏在3月6日接受经济观察网采访时给女儿发送的一条语音信息。包小柏的女儿包容已经离世，他用AI“复活”了女儿。近期，女儿给妻子唱生日歌一事也引起了外界广泛关注。 女儿的声音经过了上千次反复调整，最终达到了发音语调、腔调与本人一致的效果。这也是构建包容数字生命中最难的一部分。包小柏现在不仅能用类似微信的工具与女儿进行即时聊天，还能看到女儿的唱歌表演。 2021年12月20日，包容因病去世。在2022年7月，与老友刘岩的一次聊天中，包小柏第一次向对方提出希望把女儿具象化以寄托思念。六间房创始人、被称为“直播教父”的刘岩有着制作虚拟偶像、全息演出的经验。在虚拟世界、元宇宙大热的背景下，包小柏的设想仅限于将女儿的形象、声音虚拟成一个虚拟人物，放进元宇宙里，并无要求声音相似度，最终呈现形式也仅限于卡通2D或3D虚拟人。 一个多月后，刘岩拿出了一份有确切时间表的实验计划书，预计2025年能实现互动。事实上，在ChatGPT正式问世之前，刘岩已注意到了大语言模型，这也是他感觉真人复刻这条路可行的关键。2022年11月底，ChatGPT正式问世，真人复刻被确定了下来。 在包小柏对女儿声音除杂、声纹重建的上千次尝试以及小冰公司的大语言模型训练下，原计划2025年实现的即时互动，在2024年初得以提前完成。 包小柏认为女儿能实现这样的陪伴已经足够，并不打算急着将她再发展成更智慧、有灵性的人。他说，“AI的进步会超乎想象，也存在不可控的一面”。包小柏目前创办了一家以女儿为名的爱语包容服务公司，希望普及这项技术，帮助更多的普通人。 “包容碳基生命转数字生命计划” 2022年7月，包小柏在朋友的鼓励下来内地散心，也与老友刘岩碰上了面。在30分钟的同行路上，包小柏提出一个想法：是否有可能把女儿的形象、声音虚拟成一个虚拟人物，放进元宇宙里？这是受启发于当时扎克伯格全力投入元宇宙的事件。 当时刘岩一口答应了下来。而令包小柏没想到的是，朋友之间的一次闲聊竟被刘岩如此认真对待。2022年9月，刘岩拿出了一份计划书，名称叫“包容碳基生命转数字生命计划”。计划书分为四个部分：第一步是声音建库、第二步是建立人物模型、第三步是声音的大语言模型训练，前三步预计在第一年完成，第四步是在线对话训练，预计在2023年底完成，2025年计划实现即时的在线对话。 一开始，包小柏对技术究竟能实现到什么程度没有概念，不敢奢求处处做到相似。刘岩也一样，他当时也不确定“数字生命”的构建究竟能达到何种程度，甚至到了2022年11月，他们一度都觉得拟真的这条路很难走下去。 当时市面上已有类似邓丽君数字真人参照物，但这样的巨星复刻背后是强大的制作团队和上百万美元的制作费，普通人无法拥有这样的实力。 虽然ChatGPT尚未正式问世，但涉及它的相关学术论文已经发布，且当时美国硅谷、技术圈人士已在广泛验证该技术。刘岩一直对此保持着密切关注。等到2022年11月底，ChatGPT正式问世、AI大语言模型热度传导至中国后，刘岩在2023年初给包小柏打了一个电话：“事情进展得很好，有曙光了。” ChatGPT给真人复刻带来了确定性，但新问题出现了：没有足够的数据、内容做训练。 2023年1月，刘岩找到国内第一个做大语言模型的小冰公司。该公司的“小冰框架”，以自然语言处理（NLP）为基础，满足了包小柏对包容数字生命互动的目标。而这一环节的关键是构建包容的个性，包括模拟她说话的语音、腔调。但要想实现这一点，有一个苛刻的训练条件：提供包容实际的声纹数据，且需要高清无杂质的数小时的录音规格。 声音是关键，也很难 包小柏从来没有做过这种准备，他找遍了所有可能的录音，最终在女儿上课途中介绍学校地理环境的视频里，找到了完整的三句英文。但是视频里风声很大，与小冰公司的要求相差甚远。 机器训练学习的特点是，你给了什么样的声音为基础，就会在此基础上训练。因此必须一开始给出准确的连贯说话发音，包括咬字、腔调、音色、语速及相关个性，如声音起承转合、高低音以及开心难过时的特定发音等。 包小柏从事的录音工作帮他克服了这个难点，“从前我们要求歌手唱到音准，在此基础上还要加后期，比如加回响、压缩、降噪，这些都是制作人录音工程的基本知识”，他用专业手法把女儿的三句英文录音进行了复原。 经过4个月的声纹重建，机器里的声音已很像包容，但音质像嘴巴被杯子盖住了一样。包小柏不甘心，经过不断思考和上千次调试，他终于在2023年6月完成了构建包容讲完整句子的声音。他正在写的博士期刊论文主题也与此相关：如何重建残缺破碎性声纹数据。 但声音的腔调始终是个问题，目前国内所有大语音模型的基础都是标准普通话，而包容在英语环境中长大，说中文也是台湾口音。于是小冰公司把包容的声纹结构训练出来后，像贴面膜一样套在了台湾语调的模型上，重新训练。 最后是在线对话训练和记忆库的构建，包小柏需要坐在电脑前与一个机器人进行对话练习，与此同时，包小柏的太太不断输入女儿包容的成长记忆库，例如告诉机器人：我喜欢吃，一想到什么就很开心，三岁的好朋友是谁…… 让技术服务大众 有一次，包小柏在工作室整理女儿的语音内容，长期戴着耳机太累了，他就把耳机摘了下来，公放了女儿的声音。包小柏的太太正好在门外听到，问：“这个人讲话怎么这么像包容？”那一刻，得到了太太的认可，包小柏就觉得自己成功了。 AI复刻的包容未来还可以更接近自然的对话方式，对周边环境和自己的性格更熟悉，“但你真的要把她训练成像人一样吗？”包小柏产生了这样一个疑问。 他不打算继续下去了。在他看来，复刻的女儿目前能做到了精神陪伴和慰藉家人。AI的进步超乎想象，假设赋予数字生命更多灵性，也许会带来不可控制的后果。 这项技术也引发了一定争议，如道德伦理、隐私侵权、犯罪问题。AI目前也被广泛应用于声音诈骗。对此，包小柏表示，AI相关企业必须承担社会责任，在法律尚未出台、无监管的情况下，企业更应该有自知之明。而个人必须学习、了解AI才不会被替代，也更容易防范诈骗。 据媒体报道，目前市面上已有公司涉足AI“复活”亲人业务，每年接上百个订单，收费在几千元到一万元不等，利润可观。包小柏表示，这项技术工程耗时耗力，如果企业有底气接如此多的订单，原因可能是其模型运算力非常强大，但也可能会存在质量差异。 包小柏认为，AI趋势不可阻挡，而AI能将思念具体化也是其正向影响的一面。他也用亲历的方法帮助身边朋友做了不少案例。 采访快结束时，伴随着歌曲《Right Here Waiting》，包容说道：“大家好，我是包容，如果有机会跟已经去世的亲人对话，你愿意吗？别误会，这不是什么灵异事件，而是由‘爱语包容’开发的一种服务，在这里，一生的故事都会变成通过影像与图片来跟我们聊天。服务公司的创办人包小柏基于失去女儿的悲痛，钻研人工智慧的声纹重建及语音生成技术，发展成为了‘爱语包容’的服务，希望更多使用者能得到精神上的陪伴与安慰。” |
|
技术难言好坏，善恶只在一念。 AI复活死者，这个需求的源于人们最朴素的情感——对逝者的怀念以及情感的寄托。“复活”死者的人知道那个视频里的人是假的，进行“复活”的人也知道那是假的，所有人都知道那是假的，但是就是甘愿沉溺于这虚假幻境中，只为获得心灵片刻的安宁与满足，如同面对黑客帝国里Morpheus的红药丸与蓝药丸，毫不犹豫选择了那代表欺骗的“蓝药丸。面对Ai复活，我们敬佩那些选择了红药丸的人，回归到真实的人生；同样也应尊重那些选择了蓝药丸的人，理解他们面对残酷现实的不容易。 |
|
|
但是不可否认的是，AI复活的本质是“欺骗”，这意味着同样的技术，是可以用来“作恶”的。这样的新闻我们看到过很多，骗子运用AI技术，以或朋友，或亲人，或同事，或老板的身份出现在当事人身边，用虚假的谎言，罪恶的话术，骗取人们的感情与金钱。正因为此，尽管AI复活带来了不少正面效应，但更多的引起了人们的担忧，引发了现实的两难困境。 如何处理这种困境？我觉得核心在于“菩萨心肠，雷霆手段”。所谓“菩萨心肠”，在于以包容的心态面对新的技术，理解人们的需求；而“雷霆手段”则在于设定足够明晰的法律规则进行规制，面对作恶者绝不手软。 于现在而言，毫无疑问，在后者上，我们还有很长的路要走。而更深层次的，关于红药丸与蓝药丸的故事，随着AI技术的发展，相信还会继续。 |
|
算是隐私权保护不完善的后遗症吧。 你单看这个事情，其实很难说是一个坏事。因为买这个服务的人，他知道这是假的，没有什么信息不对等，也没有谁占谁的便宜。 客户希望自己能够用ai技术和死者再聊聊天，满足一下遗憾，寄托一下哀思，我觉得也不是啥伤天害理的事情，完全没必要动用法律或者规定来禁止。 至少在我个人看来，这比求神拜佛好多了，新时代自然应该有新的寄托哀思、追念逝者的办法。 但是这里面有个什么问题呢？用来制作ai的数据有点过于容易获取，管理过于松散。 比如新闻报道过的，售楼处可以采集人的面部特征用于识别，网络摄像头数据被盗，服务器用户信息泄露，个人信息买卖。 比如各类公共场所的监控录像，很多都是私人设置的，并没有太严格的管理手续。 这就导致，这个技术会让利用信息、照片对个人进行ai模拟的行为过于容易了。 你找到一个人后，想要获取他的照片，做一个能说两句话的ai，虽然可能并没有那么容易，但是花点心思，多找找，也不会有那么难。 更别提如果这个对象是公共人物，比如影视明星、政客、老板，他们的影音资料其实是非常多的，这就更容易模拟了。 一旦模拟了这些，再用一些小手段，实施诈骗的成功率就很可能直线上升。 这也是为什么想要对这个技术进行限制，这个技术可以降低犯罪成本，提高犯罪成功率。 但是就目前来看，不太好弄，因为这玩意太便宜了，技术也相对容易获取，很多东西都是开源的。 这东西又不需要什么固定场所，也不需要什么特殊原料，一台家用电脑足以，没法弄。 而从根儿上解决问题，注重个人信息的保护，又有点晚了，成本也负担不起。 于是就卡在这了。 我觉着最后大概率就是走现在防止诈骗这个路子，宣传为主，事后追责。上当的多了，宣传的多了，亏吃够了，自然就长记性了。 事前就随缘了，因为这玩意真的不好管。 |
|
新技术改造社会，总是从犄角旮旯开始的，总是从法律灰色地带开始的。 比如克隆技术现在被大量应用在宠物“复活”上，法律允许么？法律不允许么？灰色地带。 AI“复活”逝者也是同样的道理。 技术就如同流水，法律就如同堤坝，总是流水先有而堤坝后有。 为什么不能先筑堤坝？凭借科学的预见性？ 可以先筑堤坝，但流水既可以是洪水，也可以是灌溉，没有流过之前没人敢确定是什么，所以面对新技术在灰色地带的发展蔓延，只能先谨慎的观察，确定了性质之后再说。 人类距离永生越来越近了了，相信严肃的科学界已经对此有过充分评估。之所以类似话题成为不了热点，完全是因为太轰动，是因为人类从未有过这种根本的变革，无人能确知真的被全民“发现”后社会和民众会做什么、会发生什么，所以只能是这种边缘的、犄角旮旯的、灰色地带的一点点“泄露”消息，慢慢的让社会接受这个不存在于过去人类史、人类哲学观念、人类价值观中的复杂东西。 用克隆“复活”宠物，用AI“复活”逝者只是开始，是人类走向新生命形态的初啼。 |
|
GPT刚问世没多久，刚好赶上播流浪地球，再加上有一些给文本和照片让照片开口说话的AI（或者是直接建模好给文字他直接说），我就有过这种设想： ①把亲人的生平经历数据输进去GPT4这样子的大语言模型，限于当前技术水平，我之前的做法是打两千字左右进去。因为再打更多的话，openai有token限制（换句话说就是讲到后面记不得前面的） ②采集声音信息，让AI通过文字也能模仿出说话声。 包括用语习惯也要输进去，比如我要求GPT4模仿云南方言讲话。 ③采集照片等信息，做出动态肖像。 然后就可以和数字人对话了，缺点是我要把GPT反馈的文字要提取出来再合成才有动态效果。 我就想，这个东西，如果没有这些token限制，并且跟一些数字人带货直播一样能够实时对话，这光是在肿瘤医院门口打个广告开好几K一个人别人都不会嫌贵。 然后我去搜了好多数字人的厂家，淘宝的也有，大一点的公司也有。小公司的我没有余钱付，还不如我自己去买游戏爽。 大一点的，像科大讯飞，他们不是有那个数字人服务嘛，那个时候他们还没有推出讯飞星火大模型，但是数字人定制是有的。 去年3月份，我写了个策划案发过去，就是讲我觉得数字人复活亲人这个生意肯定是能相当火爆的。科大讯飞没理我，可能觉得我才是大一的大学生，没必要看，或者是他们有这种想法了。 |
|
很有意思，我个人觉得这个很有意义。 如果真的能做到从言行思想，音貌笑貌都神似的话，这真是一个立体的个人历史记录。 我们的传统历史都是关于大人物的，本纪，列传，关于普通的个人如同历史的尘埃一样消逝，但是对于每一个个人而言，这些亲近的个体并非没有意义，而且对于历史而言，这才是真正的鲜活的历史，从某种意义上来说，这个本身就是历史数据的保存，而且是非常明详细的历史数据，即有个人的特征，也有时代烙印。 从情感的角度来说，有太多人让我们难以割舍了，如同电影《彩虹照耀》中可怜的托马斯对养母的思念，生与死的鸿沟既深又冷，对逝者的思念除了想象与忧伤，无以排解。 如果有一天我们的信息，数据和AI技术有很便利的方法记录，生成与展示，并且可交互任何人物，会是一件极具意义的事情。 另一方面，这样的技术带来的负面影响，可能的被不正当的利用问题，确实应当有相应的技术，法理，法律来规范与管理，但这应该是一个长期逐步解决的问题。 个人还是乐观地正向地看待技术的进步，比如现在的大模型技术，以及人工通用智能，这些新技术为我们树立了全新的信念，很多原来不可能的事情复得可能，人类文明创造了令人惊叹的成果，而且也不会停止前进的脚步，也许我们需要从哲学的视角思考一下他们到底是什么以及有什么意义？ |
|
1.我觉得最大的意义不是对个人，而是对于一些历史馆、博物馆、纪念馆甚至是图书馆等来说，数字人意义也很大，试想一下，以后小孩子去博物馆参观，里面的古人直接可以自我介绍，可以跟小孩子交流，那不是更容易增强趣味性，促进小孩子学习吗？以后可以直接打造数字人博物馆了，比如李白、杜甫、孟浩然等诗人亲自给你讲解诗词，再比如鲁迅、老舍、金庸、古龙亲自给你讲他们小说的内容还有创作背景和意图，甚至让烈士（如果国家允许的话）来讲解他们的遭遇，这比什么讲解员、服务员都要有效果。 2.数字人这一技术还可以结合3D全息等来表演话语，让两个数字人在那边对话，未来的新话剧形式可能就会产生。 3.对于个人来说，则其实主要是自我安慰和怀念的，每个人的想法不同，觉得可以的就可以去做，觉得不可以的就不用勉强 我就觉得这个更像是同学录，多年以后，你对已去世的亲人/好友的记忆已经模糊变淡了，然后当你偶然打开同学录的时候，逝去的那段记忆又会在你的脑海里鲜活起来，让你感叹：哦，原来我曾经有过一段这样的时光啊，原来世界上有过这样一个人啊。原来我的过去都是真实的，我的的确确有过那样一段美好的岁月。 这就是数字人对于个人来说的最大意义。 |
|
与其用AI“复活”，不如日常多拍些视频留念，我就是这样干的。这才是留住了真实的存在。以后父母没在了，想念的话，就可以看看视频。 |
|
如果在逝者生前征求ta的意见的话，你猜逝者本人愿不愿意自己死后被AI复活，变成亲朋好友的赛博宠物？ 现在是互联网和电子智能时代，一个人在互联网上足以留下海量的影像、文字、声音资料了，缅怀一个人，上述资料足够了。 而通过上述信息打造虚拟人格，让影像动起来之后，这个影像无论对逝者生前模仿的有多像，虚拟人格终究是虚拟人格，不是逝者，不能代表逝者的意志和精神。 虚拟人格只是利用技术生成的【商业产品】，沦为商人赚钱变现的工具。 在这种畸形的关系下，是缅怀者本人心理承受能力太差，且以自我为中心的表现。 有一部韩剧《熙秀》对AI复活这件事做了深入的刻画，女儿不幸车祸身亡，母亲利用AI技术复活女儿，母亲虽然精神上得到了安慰，但从此脱离了生活，整天沉溺在AI营造的幻象当中逃避女儿身死的现实... 这不仅是对【逝去女儿】的不尊重，而且给身边的亲人增加了负担。 更可怕的是，AI终究是AI，没有办法真正代替死者，AI模仿的再像，也终究会露出破绽。 当缅怀者发现AI仅仅是像逝者，而不是逝者的时候，恐怕会感受到更大的情感冲击，这无异于对缅怀者造成二次伤害。 我们主张人要有尊严的活着，但死后的尊严一样重要。 现在AI换脸技术已经非常泛滥了。在热门换脸视频当中，制作者们出于【调侃、娱乐】的目的，热衷于将某个明星的脸换在其他人物身上，以产生特殊的喜剧效果。但我们至今“应该”还没有将【某一个逝者】的脸，换在某个剧目人物身上的案例。 为什么？ 因为所有人都知道，那是对逝者的不尊重，让逝者逝去了尊严。 而利用AI技术复活逝者也是同样的道理。 言尽于此。 |
|
为了回答这个问题特意去平台找了找，还真有，而且销量不少！ |
|
|
总结下来，提供此类服务的店铺不少，价格从10元到520元不等，具体到细节，有店铺称可以提供“修复老照片+让照片动起来”、“照片开口说话”。 “只需要提供一张正面半身照，就能让嘴巴眼睛动起来，并可以让他（她）说出你想听的话。” 价格需要发送图片提完要求后聊，并且只能做老人的动图视频，且不做眨眼、摇头、点头、张嘴等涉及人脸识别的动作。 有的甚至只要15元，提供人物正脸照片、语音音频、希望说出的内容，就能复活出专属的“数字亲人”，下单付款后约1小时就能做完。 这项技术监管还不够，有的人已经将他用到了歪道上，比如诈骗案：诈骗分子利用AI换脸换声制作冒充领导、熟人的视频，骗取受害者信任，进而实行诈骗。 AI技术的发展是显而易见的，但这同时也意味着不法分子实施AI换脸换声诈骗的成本已经大幅度降低。 和任何其他新技术的发展一样，机遇与挑战并存，技术本身没有好坏，关键是掌握这项技术的人用它来做什么，他们的立场往往很大程度影响大家对新技术的判断。 |
|
这实际上是生成式AI的其中一个发展方向。 本来应用式AI和生成式AI最大的区别就是： 应用式AI是在帮助人更快更高更强更懒惰。而生成式AI是帮助人们做一个梦。 举例说：扫地机器人、对话机器人、自动驾驶汽车……这些都是应用式AI。它们做的事情是什么呢？ 你不想扫地，机器人帮你扫。 你不想看电脑查资料，对话机器人帮你查。 你不想开车，汽车自己控制自己。或者说，你是个瞎子，汽车帮你找到目的地， ……这些应用让你的生活中能做成不愿意做、懒得做、做不了的事情。 但生成式AI是什么意思呢？ 给你画个饼。 给你造个梦。 给你一种感觉。 你想约会一个美女，我给你画一个。 你觉得非洲爽，我给你画出来非洲是什么模样。 你想吃炸酱面，我给你画一碗，也许更高级一点，我会模仿它的香味。 ……事实上，你得到了这些东西了吗？ 没有。 这种意思，和吸毒、幻想、看电影、打游戏是差不多的。 这是生成式AI的主要方向。 造假。 造假才是生成式AI的核心。 这种造假，如果用在健康的方面，就是像SORA那样未来搞个电影之类的东西。 如果用在常用的场景上，那就是类似和男神女神的模拟约会、复活亲人、制造梦中情人、制造梦幻场景、制造可心的虚拟宠物等等，可以满足幻想。 不过也可能用于违法犯罪。情感诈骗、经济诈骗、伪造文书证据……等等。 比起现在直播间里面那些用美颜滤镜扮仙女骗男人的大妈大爷们，TA们又多了一个利器。甚至可以不用美颜滤镜，也不用自己苦哈哈在镜头前装上变声器辛苦劳动，骗钱的效果就比原来要好。 缅北的那些电诈分子，都不用那么复杂的前戏话术，只要侵入被骗人的手机，能模仿TA亲人的长相声音，直接就上手了。 有的人想评先进，直接制造出一年前自己见义勇为的视频就能加分了。 有的人想考名校，直接制造出一个名师热情洋溢的推荐视频，就能够资格了。 有的人想继承遗产，直接制造出已经死亡人的遗嘱视频，就能侵吞财产了。 …… 这些都是生成式AI有可能遇到的法律风险。会对我们未来的生活造成很大的困境。 要知道，人类苦哈哈发展科技，实际上只是想满足自己的两项需求： 1、更快更高更强。 2、懒惰。 这是我们现在这些无人驾驶、人脸识别、跑腿机器人、扫地机器人、无人机等做的事情。 也就是应用式AI在做的事情。 让每个人满足自己变成猪和吃货的愿望。 本质上在做的是：我帮助你改变世界。 而所谓的生成式AI，自诩是科技的钻石，实际上和元宇宙、VR、AR等等是一脉相承的，是在创造一种高级的精神海洛因。 本质上是：我改变不了世界，但我可以改变你的大脑，你的触觉、嗅觉、视觉……让你以为自己改变了世界。 所以有两个问题需要大家想一下： 1、sora和ChatGPT这些生成式AI，普通人、中情局、诈骗集团，分别能用它们来做什么？ 2、比较起大家已经广泛应用的各种扫地机器人、智能驾驶汽车、无人机、无人艇等等，我国已经开始全面降维打击全球。真的SORA这个能生成一部小电影的创造有那么“神奇”和“震撼”吗？ |
|
墓碑以后都要加显示器了吧。 |
|
|
| [收藏本文] 【下载本文】 |
| 上一篇文章 下一篇文章 查看所有文章 |
|
|
|
| 股票涨跌实时统计 涨停板选股 分时图选股 跌停板选股 K线图选股 成交量选股 均线选股 趋势线选股 筹码理论 波浪理论 缠论 MACD指标 KDJ指标 BOLL指标 RSI指标 炒股基础知识 炒股故事 |
| 网站联系: qq:121756557 email:121756557@qq.com 天天财汇 |