跳至内容

拾光小记

标签: ChatGPT

所有标签

熵与涌现：大模型的智能之谜

熵与涌现：大模型的智能之谜

这周吃了一周OpenAI的瓜，奥特曼在OpenAI科技春晚过后没几天突然被莫名其妙的解雇了，而在微软开出了各种丰厚条件准备釜底抽薪时，奥特曼又重新复职。而这一切仅仅发生在几天内。作为吃瓜群众，我们确实不知道背后的实情是什么。但是有些人报出了一些猛料还是比较值得关注的；据说是OpenAI今年秘密训练 …

/posts/openai%E5%AE%9E%E7%8E%B0%E5%8E%9F%E7%90%86%E6%B5%85%E6%9E%90/ map[avatar:https://avatars.githubusercontent.com/u/123456789?v=4 email:me@melonkid.cn location:China name:melonkid]

深度学习-实现一个三层神经网络

深度学习-实现一个三层神经网络

## 神经网络内积 如下图所示，通过神经网络的内积，可以将输入信号转换为输出信号。其中，$x$为输入信号，$w$为权重，$y$为输出信号。 输入信号: $$\vec{X} = (x1, x2)$$ 权重: $$\vec{W} = \begin{pmatrix} 1 & 3 & 5 …

/posts/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0-%E5%AE%9E%E7%8E%B0%E4%B8%80%E4%B8%AA%E4%B8%89%E5%B1%82%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/ map[avatar:https://avatars.githubusercontent.com/u/123456789?v=4 email:me@melonkid.cn location:China name:melonkid]

深度学习-激活函数

深度学习-激活函数

我们可以对上文感知机中的函数 $$y=\begin{cases}0 (x1w1 + x2w2 + b \le 0 )\ 1 (x1w1 + x2w2 + b > 0)\end{cases}$$ 做如下调整。将每次计算结果定义为a $$a=x1w1 + x2w2 + b$$ 然后定义函数 …

/posts/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0-%E6%BF%80%E6%B4%BB%E5%87%BD%E6%95%B0/ map[avatar:https://avatars.githubusercontent.com/u/123456789?v=4 email:me@melonkid.cn location:China name:melonkid]

深度学习-感知机

深度学习-感知机

感知机是一种二元线性分类器，最初由Frank Rosenblatt在1957年提出。它是一种基本的神经网络模型，也是深度学习的起源之一。 感知机的工作原理是将输入向量与一组权重向量进行内积运算，然后将结果通过一个阈值函数（如阶跃函数）进行判断分类。这个阈值函数将内积的结果映射到一个二元输出（1或 …

/posts/%E6%B7%B1%E5%BA%A6%E5%AD%A6%E4%B9%A0-%E6%84%9F%E7%9F%A5%E6%9C%BA/ map[avatar:https://avatars.githubusercontent.com/u/123456789?v=4 email:me@melonkid.cn location:China name:melonkid]