Transformer模型调研
2017年至2022年提出的Transformer模型进行广泛调查,概述了Transformer在自然语言处理、计算机视觉、多模态、音频和语音处理以及信号处理等五个领域中的应用,并对高影响力的Transformer模型进行了分析和分类。本文...
2017年至2022年提出的Transformer模型进行广泛调查,概述了Transformer在自然语言处理、计算机视觉、多模态、音频和语音处理以及信号处理等五个领域中的应用,并对高影响力的Transformer模型进行了分析和分类。本文...
大型语言模型(LLMs)的水印可靠性问题。水印是一种简单有效的策略,可通过检测和记录LLM生成的文本来减轻垃圾邮件、社交媒体机器人和无价值内容等问题。本文研究了水印在现实环境中的鲁棒性,发现即使在人类和机器改写的情况下,水印仍然是可检测的。...
一种名为FinGPT的开源大型语言模型,用于金融领域。与专有模型不同,FinGPT采用数据为中心的方法,提供可访问和透明的资源,以开发金融LLMs。作者强调了自动数据筛选管道和轻量级低秩适应技术在构建FinGPT中的重要性,并展示了几个潜在...
Reddit实际上是OpenAI的附庸。OpenAI需要扩大自己的优势,而Reddit作为一个训练数据非常宝贵。此外,Reddit的数据对OpenAI来说更容易获取,而对于谷歌等公司和新兴AI组织来说则更难。因此,Reddit的未来数据对O...
2023年第一季度,生成式人工智能创业公司获得了超过17亿美元的融资,为市场开发基础模型。Inflection和Character.ai专注于消费者个人助理领域,Anthropic、Cohere和AI21Labs则专注于企业领域的文本处理和...
探讨了开源社区发展语言模型的可能性和前景。在 ChatGPT 推出之前,大多数语言模型被视为主要是研究项目,因此模型的易用性和成本扩展性方面的问题并不太重要。然而,开源社区正在探索一系列不同的语言模型,包括前期成本、预测能力、控制程度等。因...
Meta公司的首席人工智能科学家Yann LeCun提出了一种新的架构,旨在克服目前最先进的人工智能系统的关键限制。他的愿景是创建能够学习世界运作内部模型的机器,以便它们可以更快地学习,规划如何完成复杂任务,并能够轻松适应陌生情况。他们现在...
ChatGPT 的 Code Interpreter的插件,可以通过上传文件让ChatGPT编写Python代码来理解和分析数据。作者通过上传财务报表测试了这个插件的功能,发现它可以自动化大部分的财务工作。作者认为这是一个50亿美元的机会,...
6月14日,欧洲议会通过了欧盟人工智能法案(AI Act)。该法案将对组织开发、部署和维护其AI系统的方式产生重大影响,同时为其他立法机构采取进一步监管行动铺平了道路。AI/ML从业者应该了解这个新的监管未来,并采取一些措施来适应。AI A...
Obviously AI:无需编写代码即可构建AI模型的工具 Obviously AI是一款无需编写代码即可构建AI模型的工具,可以在几分钟内从原始数据到行业领先的预测模型,无需几个月的时间。该工具可以实现分类、回归和时间序列等多种预测功能...