硬核观察 #1065 开源硬件公司正在向封闭转变
? 开源硬件公司正在向封闭转变
? 人工智能检测器认为《美国宪法》是由人工智能编写的
? 出现用于网络犯罪的人工智能 WormGPT
» 
»
开源硬件 AI
120.32.104.213
试想一下，如果人工智能学会了自动编写病毒并发布，那就太可怕了
来自福建福州的 QQ Browser 11.0|Windows 7 用户
2023-07-18T09:00:13.000
? 开源硬件公司正在向封闭转变
? 人工智能检测器认为《美国宪法》是由人工智能编写的
? 出现用于网络犯罪的人工智能 WormGPT
» 
»
![](/data/attachment/album/202307/17/174305gb7vw88nnpz7t474.jpg)


![](/data/attachment/album/202307/17/174315w9nlvt9nw8v1k893.jpg)


### 开源硬件公司正在向封闭转变


在过去 15 年里，创新型电子公司设计并发布了数以千计的开源硬件设计，创造了一个蓬勃发展的产业。他们还集体创作并签署了《开源硬件定义》，为这些产品给出了明确的定义和标准。然而，最近一些开源硬件公司要么封闭源代码，要么推迟发布源代码，要么要求签订 NDA 才能获得“开源”的硬件及其软件。去年悄悄完成 3200 万美元融资的开源硬件公司 Arduino 修改了自己的开源承诺，删除了 “所有 Arduino 板都是完全开源的，……软件也是开源的……” 的话语。SparkFun 采用了闭源固件，需要 NDA 才能查看其代码，并申请撤销其销售的一款产品的开源硬件认证。开源 3D 打印公司 Prusa 以开源名义销售的产品，由于担忧“克隆品”而一直没有发布相应的源代码，并指责中国制造商利用其设计和源代码制造专有的闭源产品，还对从他们的开源代码中获取的设计和算法申请专利。



> 
> **[消息来源：Adafruit](https://blog.adafruit.com/2023/07/12/when-open-becomes-opaque-the-changing-face-of-open-source-hardware-companies/)**
> 
> 
> 



> 
> 老王点评：无论是开源软件，还是开源硬件，资本一旦涉入，开源的味道就会变化。很多靠开源起家的公司，最后背离开源，或许无奈，或许是主动选择。开源的理念，可能他们自己也不一定真心相信。
> 
> 
> 


![](/data/attachment/album/202307/17/174329lfzfnib8ban50vpf.jpg)


### 人工智能检测器认为《美国宪法》是由人工智能编写的


尽管依靠人工智能工具来检测人工智能生成的作文很有诱惑力，但迄今为止的证据表明，这些工具并不可靠。由于存在假阳性，GPTZero、ZeroGPT 和 OpenAI 自己的文本分类器等人工智能写作检测器无法检测由 ChatGPT 等大型语言模型组成的文本。如果你将美国最重要的法律文件《美国宪法》输入这种检测工具中，它会告诉你该文件几乎肯定是由人工智能撰写的。同样的情况也发生在《圣经》选段中。



> 
> **[消息来源：Ars Technica](https://arstechnica.com/information-technology/2023/07/why-ai-detectors-think-the-us-constitution-was-written-by-ai/)**
> 
> 
> 



> 
> 老王点评：简单来说，这些人工智能的模型就是基于这些成例的文本训练而成的，自然无法区别这些事实上由人撰写的文件，而认为这些文本和人工智能生成的非常相近。这篇来源详细介绍了更多细节，感兴趣的话可以看看。
> 
> 
> 


![](/data/attachment/album/202307/17/174346gg8gg5tg55z08ew0.jpg)


### 出现用于网络犯罪的人工智能 WormGPT


以 OpenAI 聊天机器人 ChatGPT 为代表的生成式 AI 能生成类似人类的文本，网络罪犯可利用它自动创建高度可信的钓鱼邮件，对收件人高度定制，增加攻击的成功率。网络罪犯甚至创建了专门用于恶意目的的工具 WormGPT。WormGPT 是基于 2021 年开发的大模型 GPTJ，它的功能包括无限字符支持、聊天记忆保留和代码格式化等。开发者声称 WormGPT 使用了恶意程序相关的数据进行训练。



> 
> **[消息来源：Slash Next](https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/)**
> 
> 
> 



> 
> 老王点评：要是什么地方对新技术的利用最积极，那要数这些可以用来牟利的非法领域了。
> 
> 
> 

