你的購物車目前是空的!
所有计算能力的成本
训练 GPT-3 的成本估计在 400 万至 1200 万美元之间,并且似乎会 所有计算能力的成 随着模型大小而线性增长。因此,我们可以推断,一个 15-20 万亿参数的模型需要 3 亿至 13 亿美元的投资。
其承诺是,只要给出一些文本任务的示例,模型就可以在无需再训练的情 所有计算能力的成 况下达到人类水平,因此可以称为通用人工智能——也就是说,它不是使用示例作为训练数据来改变大脑中的突触,而是通过“处理”任务来弄清楚如何完成任务。通常,没有示例的任务描述就足够了。
一些警告
虽然这只是粗略的趋势线拟合,但仍存在几个 手机号码数据 注意事项:1)小错误可能导致推断中出现数量级效应,2)不能保证现有趋势保持不变,3)目前还不清楚是否有足够的文本可以继续扩大目前的做法。甚至作者也指出潜在的缺点模型中写道:
“本文描述的一般方法的一个更根本的局限性——扩大任 深入探讨数字媒体规划 何类似 LM 的模型,无论是自回归还是双向的——是,它最终可能会遇到(或可能已经遇到)预训练目标的限制。”
更令人担忧的是
因此,尽管 GPT-3 执行的任务对于大多数机器来说 非 印度尼西亚号码列表 线性 都很困难,甚至人类有时,它们似乎不太可能深入探究人类的能力,比如复杂的编程、小说写作或复杂的战略推理。 ,与之前的许多其他人工智能一样,它很容易产生带有性别、民族、性取向和种族偏见的语言。
發佈留言