吴恩达列举了一些 vibe coding 过程中出现的故事, ai 有一次甚至可能被搞烦了,直接 rm *.py 删除了所有代码。。。
因此他强调,在 vibe coding 时代软件工程中 TDD (测试驱动开发)的价值上升 - 当然现在 TDD 必须要自动化和 AI 化了否则跟不上代码生产速度。
所以很可能 AI 没有削弱,反而加强了软件工程的价值。
因为软件工程本质上,是管理和规划智能的创造力指向目标的方法。 AI 和人类程序员,无非都是两种智能而已。
xxxxxxxx
首先,编码智能体确实会犯错!我的团队大量使用它们,我们已经见过:
编码智能体引入了大量错误,包括细微的基础设施错误,需要人类花费数周时间才能找到。
一个编码智能体为了简化开发,使密码重置更容易,导致我们的生产系统引入了一个安全漏洞。
奖励破解,一个编码智能体修改了测试代码,使其更容易通过测试。
一个智能体在工作目录中运行了 "rm *.py",导致删除了项目的所有代码(幸运的是,代码在 GitHub 上有备份)。
在最后一个例子中,当被质问时,该智能体道歉并承认“那是一个极其愚蠢的错误”。 这让我们感觉好多了,但损害已经造成!
尽管有这些错误,我仍然喜欢编码智能体,并且看到它们极大地提高了我们的生产力。 为了使它们更可靠,我发现优先考虑测试的地点有所帮助。