transformer-explainer
安装和启动
找到这个项目，然后装好了。
这个项目的目的如名字。
https://github.com/poloclub/transformer-explainerTransformer Explained: Learn How LLM Transformer Models Work with Interactive Visualization - poloclub/transformer-explainer
https://github.com/poloclub/transformer-explainer
完全照着说明来的，
很简单：
git clone https://github.com/poloclub/transformer-explainer.gitcd transformer-explainer
npm install
npm run dev这里我能提供给大家的有几个：
1。 这个项目确实很有意义，
演示页面：Transformer Explainer: LLM Transformer Model Visually Explained
但界面不如这个好：
LLM Visualization
但上面这个我没有找到github的链接。以后再学习。
transformer-explainer的好处，在于简单明了。
2。 transformer-explainer很好安装。
唯一要注意的是npm的版本。我的OS是ubuntu 20.04，node.js比较旧：
（a) 更新node.js:
# Install nvm if you don't have it
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.3/install.sh | bash
source ~/.bashrc # or ~/.zshrc if you're using Zsh# Install the latest LTS version of Node.js
nvm install --lts# Use the latest installed version
nvm use --lts# Verify the Node.js and npm versions
node -v
npm -v
(b) 更新下，到下载的代码目录：
npm cache clean --force
npm install
别的就没什么了。
还是老问题，要处理好proxy的问题，不要把本地的代理了。
http://localhost:5173/
原网站的信息
Research Paper
Transformer Explainer: Interactive Learning of Text-Generative Models. Aeree Cho, Grace C. Kim, Alexander Karpekov, Alec Helbling, Zijie J. Wang, Seongmin Lee, Benjamin Hoover, Duen Horng Chau. Poster, IEEE VIS 2024.
How to run locally
Prerequisites
- Node.js 20 or higher
- NPM
Steps
git clone https://github.com/poloclub/transformer-explainer.git cd transformer-explainer npm install npm run dev
Then, on your web browser, access http://localhost:5173.
Credits
Transformer Explainer was created by Aeree Cho, Grace C. Kim, Alexander Karpekov, Alec Helbling, Jay Wang, Seongmin Lee, Benjamin Hoover, and Polo Chau at the Georgia Institute of Technology.
题外话
Transformer是革命性的。
我认为实际第一次革命。也就AI的2.0。 因为之间的AI，仅仅是数学。
许多人，直到今天，认为数学是未来。霍金就是一个典型，他说哲学己死，这显然是错误。
卡尔.波普尔的公共知识7层模型，科学（数学只是科学的一部分）在第4层，更高层的第5层是哲学，然后是艺术，再往上不能说了。
暗示，数学并不能解释一切。
例如，这里我给大家一个简单例子：1+2=3。
但是，你拿3之后，并不清楚，这个3是怎么来的。可能是-1+4得到，有限种可能性。
神经网络从NN,到DNN并没有本质突破，包括RNN，都是在一个平面的层的进化，没有向更高层进化。
一维的生物要描述2维的信息，要花费巨大的多余的代价。显然DNN是面对这个困境。所以从CNN到DNN，这次并不是真正的进化，只是量变。
但 Transformer是一次突破。已经有了构建主义哲学的影子。这个我们不详细说了。
总之大家不要仅仅以数学的角度去分析 Transfomer。数学过去是工具，今天是工具，将来还是工具。它不会给你意义。构建主义，可不仅仅是告诉你3是来的，而是不同的领域的信息的构建，不是简单累加。希望能给大家启发。
我参与了一些面试，既要又要的风气，传导进了企业界。
企业你就是做工程的，不要装X说自己的算法有多牛，没有个蛋用。openai成功是成功在工程，它没有什么特殊的算法。