跳转到内容
主菜单
主菜单
移至侧栏
隐藏
导航
首页
最近更改
随机页面
MediaWiki帮助
代码酷
搜索
搜索
中文(中国大陆)
外观
创建账号
登录
个人工具
创建账号
登录
未登录编辑者的页面
了解详情
贡献
讨论
编辑“︁
Airflow Variables加密
”︁(章节)
页面
讨论
大陆简体
阅读
编辑
编辑源代码
查看历史
工具
工具
移至侧栏
隐藏
操作
阅读
编辑
编辑源代码
查看历史
常规
链入页面
相关更改
特殊页面
页面信息
外观
移至侧栏
隐藏
您的更改会在有权核准的用户核准后向读者展示。
警告:
您没有登录。如果您进行任何编辑,您的IP地址会公开展示。如果您
登录
或
创建账号
,您的编辑会以您的用户名署名,此外还有其他益处。
反垃圾检查。
不要
加入这个!
= Airflow Variables加密 = == 介绍 == '''Airflow Variables加密'''是Apache Airflow中保护敏感配置数据的重要机制,通过加密技术确保数据库存储的变量内容(如API密钥、数据库密码等)不被明文暴露。该功能基于Fernet对称加密实现,要求用户配置加密密钥后自动生效。 == 工作原理 == Airflow使用以下流程处理变量加密: <mermaid> graph LR A[用户设置Variable] --> B{加密密钥已配置?} B -->|是| C[加密后存入数据库] B -->|否| D[明文存入数据库] C --> E[使用时自动解密] D --> F[直接读取明文] </mermaid> 数学表达式表示加密过程: <math> \text{密文} = \text{Fernet}(\text{密钥}).\text{encrypt}(\text{明文}.encode()) </math> == 配置方法 == === 生成加密密钥 === 使用以下命令生成Fernet密钥(需Python环境): <syntaxhighlight lang="python"> from cryptography.fernet import Fernet fernet_key = Fernet.generate_key() print(fernet_key.decode()) # 输出示例:'hTj2vJ3nP5sR8uVxYzA0bC1dE4fG7iK9l' </syntaxhighlight> === 修改Airflow配置 === 在`airflow.cfg`中设置: <syntaxhighlight lang="ini"> [core] fernet_key = hTj2vJ3nP5sR8uVxYzA0bC1dE4fG7iK9l </syntaxhighlight> 或通过环境变量: <syntaxhighlight lang="bash"> export AIRFLOW__CORE__FERNET_KEY="hTj2vJ3nP5sR8uVxYzA0bC1dE4fG7iK9l" </syntaxhighlight> == 使用示例 == === 加密存储变量 === <syntaxhighlight lang="python"> from airflow.models import Variable Variable.set("my_secret", "s3cr3t_p@ssw0rd") # 自动加密 </syntaxhighlight> === 解密读取变量 === <syntaxhighlight lang="python"> secret = Variable.get("my_secret") # 自动解密 print(secret) # 输出: 's3cr3t_p@ssw0rd' </syntaxhighlight> == 高级用法 == === 密钥轮换 === 支持多密钥配置(按优先级尝试解密): <syntaxhighlight lang="ini"> [core] fernet_key = current_key:hTj2vJ3nP5sR8uVxYzA0bC1dE4fG7iK9l, old_key:qWeRtYuIoPaSdFgHjKlZxCvBnM1kL9p8 </syntaxhighlight> === 加密验证 === 检查变量是否已加密: <syntaxhighlight lang="python"> from airflow.settings import Session from airflow.models import Variable var = Session.query(Variable).filter_by(key="my_secret").first() print(var.is_encrypted()) # 返回True/False </syntaxhighlight> == 实际案例 == === 场景:保护数据库连接 === 1. 加密存储生产环境数据库密码: <syntaxhighlight lang="python"> Variable.set("prod_db_pass", "DB@1234!") # 加密存储 </syntaxhighlight> 2. 在DAG中使用: <syntaxhighlight lang="python"> from airflow import DAG from airflow.providers.postgres.operators.postgres import PostgresOperator with DAG('secure_etl', schedule_interval=None) as dag: PostgresOperator( task_id='load_data', postgres_conn_id='prod_connection', sql='SELECT * FROM users', password=Variable.get("prod_db_pass") # 自动解密 ) </syntaxhighlight> == 注意事项 == * '''密钥保管''':丢失加密密钥将导致已加密变量永久不可读 * '''性能影响''':加解密操作会增加约10-15%的I/O开销 * '''版本兼容''':Airflow 2.0+ 默认启用变量加密 * '''审计日志''':建议记录密钥使用情况: <mermaid> pie title 加密操作审计 "Variable读取" : 65 "Variable写入" : 25 "密钥轮换" : 10 </mermaid> == 故障排查 == {| class="wikitable" |- ! 错误现象 !! 可能原因 !! 解决方案 |- | '''DecryptionError''' || 密钥不匹配 || 检查`AIRFLOW__CORE__FERNET_KEY`配置 |- | '''Value is not encrypted''' || 未配置密钥 || 生成新密钥并重新设置变量 |- | '''Malformed token''' || 数据损坏 || 从备份恢复或重新设置变量 |} == 最佳实践 == # 使用密钥管理系统(如AWS KMS)存储主密钥 # 定期轮换密钥(建议每90天) # 对敏感变量添加`_secret`后缀便于识别 # 开发/生产环境使用不同密钥 [[Category:大数据框架]] [[Category:Airflow]] [[Category:Airflow变量与连接]]
摘要:
请注意,所有对代码酷的贡献均被视为依照知识共享署名-非商业性使用-相同方式共享发表(详情请见
代码酷:著作权
)。如果您不希望您的文字作品被随意编辑和分发传播,请不要在此提交。
您同时也向我们承诺,您提交的内容为您自己所创作,或是复制自公共领域或类似自由来源。
未经许可,请勿提交受著作权保护的作品!
取消
编辑帮助
(在新窗口中打开)