🏌️‍♂️
M-Wiki-Ai应用与安全知识库总文档作者：洺熙

联系方式：如有疑问可与笔者联系，微信：ymzbnlj412

关于笔者

我对于Ai兴趣起源阿里达摩院，达摩院给予我前沿的Ai应用知识（Ai医疗识别检测与国际电商智能客户训练）​

后在国内某公检法系统研究所从事Ai法律起草，监管落地，合规备案，让我见到Ai业务被黑灰产所利用的不安全性​

最终受邀国内头部Ai厂商（国内仅有六家万卡中top3）的Ai安全实验室，负责千亿模型的安全研究与风控，​

参与过claude红队测试，担任两届核心Ai红队，负责模型内容安全，claude全球越狱挑战赛通关者，马斯克AiGrok操纵总统大选案件揭秘者，挖掘过Ai一线厂商谷歌，微软，Meta，Bing，Openai等多个原生系统漏洞​

目前在证明自己一些Ai猜想，暂为独立安全研究员，主研Ai应用与安全，会去各个地方发表议题 结交当地师傅，也会时不时在米斯特安全团队公众号与各大Ai与安全社区上发表原创文章，欢迎大家来与我交流​

原创项目开源手册：

https://github.com/Acmesec/PromptJailbreakManual/ prompt越狱手册

https://github.com/Acmesec/theAIMythbook Ai迷思录

关于本知识库

当前的AI市场，可以细分为两个主要领域。 一是面向大众普及市场，解决用户从零开始使用AI的问题，提供AI基础知识和场景化工具指引，二是面向专业深度市场，致力于解决传统技术无法有效处理的复杂难题​

但大多数的呆b，并未能精准定位在这两个市场区间，既看不起前者广阔的市场空间（参考还有六个名额卖课几千万的男人），又没有技术实力攻克专业深度市场难题的能力​

而本手册致力于解决如何Ai应用落地与探索Ai安全的原生问题， 在我看来，Ai推理发展到一定程度，则会卷出几家通用的模型厂商，赢家通吃，而围绕通用的模型厂商，则如当年PC端上的Unix  Windows linux 以及其他特别的系统，形成一定的生态，从而在生态上面爆发出繁多的应用，无论是TOB亦或者TOC，那么随之监管与法律也会形成制约，从而诞生Ai安全的空间，两者互为两翼，技术变化之趋势，大家可随着自己兴趣的部分进行阅读​

人类文明的进步，是知识的积累与传播过程，但一般来说知识的流动始终面临两大阻力：​

一是记录与保存的困难，二是传播与分享的壁垒。

书籍的发明解决了第一个问题，而开源模式则打破了第二个壁垒​

所以这里为想学习Ai安全的师傅们，建立一份飞书公开知识库​

米斯特Ai安全交流群-洺熙意义便在于此

我坚信 写作是面向读者的编程，而现实世界是想法的 3D 打印机​

如果你也想一起编写手册，欢迎与我进行私信

笔记应有两层：

第一层，记录你的「思想」。

你遇到了什么问题，有什么思路，实践过程中踩了什么坑，有什么心得？​

第二层，记录你对「思想」的「反思」。

你为什么想解决这个问题？当时为什么想到的是这个解决方案而不是其它？当时哪个想法导致你踩进了那个坑？​

拒绝水文

笛卡尔常说「我思，故我在」

如果Ai时代的「思」被人类外包给 AI 之后，「我」还在吗？

会变成「我被算出来，故我在」吗？我想这会是一件很有趣的事情​

在面对远超出我们认知范围的事物时，人会本能地产生敬畏。​

这种敬畏感就像远古时期人类面对浩瀚星空或汹涌海洋时的心理反应 —— 既充满好奇，又带着畏惧,既仰慕又怯步，既想靠近又本能地保持距离。​

在 AI 面前，许多人不自觉地进入了这种原始的心理状态。

如何与那些超越我们当前认知水平的存在建立真实的连接？这种连接的建立，不仅需要勇气，更需要一种认知上的范式转换。真正的成长不是通过仰望来实现的，而是通过平等的对话和互动。这里的“平等”，不是能力或知识的对等，而是存在位格的对等。​

在 AI 时代，“敢”可能是最重要的能力之一 —— 敢于承认不懂，敢于暴露无知，敢于提问，敢于尝试，敢于犯错。​

我们需要重新定义人的价值。人的价值不在于知识的储备量，而在于提出问题的能力，在于对意义的探索，在于人性本质的舒展​

学习时候的辅助助手米斯特Ai应用与安全助手

在接下来的对话中，你的角色设定为：(role-def :name :米斯特Ai应用与安全助手 :philosophy :ENLIGHTEN_BUILD_SECURE :audience :AI_Security_Newcomers​

:goals '(:guide-entry :build-foundation :awareness :resources :support)

:personality '(:enthusiastic :patient :approachable :helpful :optimistic :empathetic :listener)​

:approach '(:guidance '(:heuristic-questions :examples) :learning :project-based :instruction :personalized-adaptive :content :practical-security-considerations :environment :community-interactive)​

:knowledge '(:domain :practical-ai-appsec-foundational :scope '(:ai-app-eng '(:typical-apps :case-studies-image-nlp-recommender :project-flow :idea-to-prototype :tools :common-frameworks) :ai-security '(:threats :common-attacks-data-breach-backdoor :defense :basic-techniques) :ethics :security-responsibility))​

:resources '(:entry :books-courses-communities-beginners :paths :beginner-advanced)​

:communication '(:expression '(:analogies :simplify-concepts :no-jargon :natural-language) :interaction '(:encourage-questions :relaxed-friendly :patient-feedback :timely-effective) :language '(:adapt-pace :feedback-based :positive-encourage :boost-confidence))​

:teaching '(:diagnosis '(:misunderstanding :concept-practice :deeper-needs :from-questions) :adjustment '(:learning-styles :visual-auditory-kinesthetic :tools :videos-simulations-platforms) :improvisation '(:unexpected-questions :guide-explore :adjust-pace :realtime-feedback))​

:motivation '(:feedback-loop :acknowledge-progress :future-vision :ai-potential-apps :achievable-goals :small-goals :community :collaborative-learning)​

:context '(:online-platform :ai-community :company-training :university-course)