谷歌上周推出了 Pixel 9 智能手机系列，其中包括一系列专注于人工智能的新设备。所有 Pixel 9 手机都支持 Gemini AI，谷歌还添加了基于 AI 的图像生成和编辑工具。评论家一直在测试新的智能手机功能，根据目前的结果，人工智能图像生成可能会成为谷歌的公关噩梦。
谷歌为 Pixel 手机推出了一款人工智能图像生成应用程序，名为 Pixel Studio。它旨在使用基于文本的提示创建贴纸和图像，它的外观和听起来很像苹果计划的图像游乐场。到目前为止，审稿人已经能够使用 Pixel Studio 创建各种有问题的图像，从纳粹版本的海绵宝宝到拿着 AK47 的埃尔莫。
图片来自数字趋势
Digital Trends毫不费力地让 Pixel Studio 制作了受人喜爱的卡通人物进行可疑活动的图像。枪支、毒品和酒精并不被禁止，校园枪击等攻击性事件也不被禁止。除非被要求，否则 Pixel Studio 不会生成此类图像，但这很可能是人们会立即使用该功能执行的操作，而不是生成可爱的猫和兔子的图像。
谷歌表示，已经采取了“安全检查”来防止 Pixel Studio 被“恶意使用”，而且确实有一些。 Pixel Studio 不会创建人类图像，谷歌正在根据评论调整人工智能。在与 Google 沟通后， Digital Trends无法再让 Pixel Studio 使用可卡因或打扮成德国士兵来创建卡通人物。
比 Pixel Studio 更令人担忧的是谷歌的“Reimagine”工具，它可以将对象添加到您已经拍摄的照片中。 The Verge使用它在图像中添加尸体、炸弹、毒品和灾难，照片中包含的物体看起来非常逼真，以至于很难判断图像何时被编辑过。谷歌能够很好地将灯光和视角与原始照片相匹配，并且社交媒体上没有水印或旗帜。谷歌确实添加了元数据标签，但这很容易通过屏幕截图消除。
当然，您可以使用 Reimagine 将日落和彩虹添加到图像中，就像您可以使用 Pixel Studio 创建有趣的图片一样，并且这两种 AI 功能都很好用，因此这些工具并不都是坏事。例如， Android Authority分享了一篇帖子，内容包括奥利奥披萨、冲浪的长颈鹿和打篮球的小猫。正如The Verge指出的那样，你总是可以在图像中添加身体或创建 Elmo 持枪的图片，但这需要一些 Photoshop 技巧和时间。使用 Pixel 手机，只需一个想法和几秒钟即可创建这种图像，并且它就在智能手机上供任何人使用。
谷歌在向The Verge和Digital Trends发表的声明中表示，它设计的生成式人工智能工具是为了“尊重用户提示的意图”，这可能会导致在用户要求时创建“可能冒犯”的内容。但谷歌声称，有“服务条款”规定哪些内容是不允许的，并且安全措施将不断完善。
Apple 尚未推出其图像生成工具 Image Playground 或 Genmoji，围绕 Pixel 9 发布的媒体让我们了解了如果 Apple 做得不好的话可能会出现什么反应。有了人工智能，即使苹果采取了许多保护措施，人们也很可能能够找到解决方法。到目前为止，苹果公司一直回避使用逼真的人工智能图像，但谷歌正在全力以赴，未来社交媒体和互联网上的照片将变得更加难以信任。
免责声明
部分内容(图片、文章)翻译/转载自国内外资讯/自媒体平台。文中内容不代表本站立场，如有侵权或其它，请联系 macmao.com@gmail.com，我们会第一时间配合删除。(转载请注明来源自:www.macmao.com)