跳到主要内容
极客日志极客日志面向AI+效率的开发者社区
首页博客我的书GitHub 精选镜像AI 生图工具UI配色美学关于
搜索内容 / 工具 / 仓库 / 镜像...⌘K搜索
注册
博客列表
编程语言AI算法

吴恩达机器学习:逻辑回归算法详解

逻辑回归是一种用于分类任务的机器学习算法,尽管名称包含“回归”,实际输出为 0 到 1 之间的概率值。其核心流程包括通过线性组合处理特征,再利用 Sigmoid 函数将结果映射至概率范围。模型使用对数似然损失作为成本函数,确保优化时能找到全局最优解。该算法适用于二分类问题,如肿瘤良恶性判断,通过训练数据学习权重和偏置项,实现对样本类别的预测。

Ne0发布于 2026/3/16更新于 2026/8/2261 浏览

定义

逻辑回归是一种用于分类任务的机器学习算法(虽然名字带'回归',但实际是分类模型),核心是用'概率'的方式判断样本属于某一类别的可能性。

核心特点:
  1. 任务类型:解决二分类问题(比如'肿瘤是否恶性''邮件是否垃圾邮件'),也可以扩展到多分类。
  2. 输出形式:输出 0~1 之间的概率值(比如输出 0.8 代表'样本属于正类的概率是 80%')。
  3. 模型原理:
    • 先通过线性组合(z=w⋅x+b)处理特征;
    • 再用Sigmoid 函数把线性结果映射到 0~1。
  4. 损失函数:用对数似然损失(根据真实标签 y 的不同分段定义),保证优化时能找到全局最优。

逻辑回归是'用线性模型 + Sigmoid 函数,输出分类概率'的经典分类算法。

示例

文章配图

这个图展示的是逻辑回归(Logistic Regression)用于肿瘤良恶性判断的数据集与模型框架,核心是'分类任务'(判断肿瘤是恶性/1 还是良性/0)。

1. 数据集部分

表格是训练样本的结构:

  • 行(i=1,...,m):代表不同的患者(共 m 个训练样本)。
  • 列(j=1,...,n):代表特征(输入变量),比如'肿瘤大小(x_1)''患者年龄(x_n)'等。
  • 最后一列(y):是目标变量(标签),取值为 0 或 1(1 代表'恶性肿瘤',0 代表'良性肿瘤')。
2. 模型部分

右侧的公式是逻辑回归的预测函数:

文章配图

  • 它的作用是:把'特征 x(如肿瘤大小、年龄)'输入后,输出一个0 到 1 之间的概率值(代表'肿瘤是恶性的概率')。
  • w 是特征的权重,b 是偏置项,需要通过训练数据学习得到。

逻辑回归的预测函数采用 Sigmoid 函数,核心是为了适配分类任务的需求:

1. 分类任务需要'概率输出'

我们要预测的是'肿瘤恶性的概率',这个值必须在 0~1 之间(概率的取值范围)。如果直接用线性模型

文章配图

,它的输出可以是任意实数(比如 -100、1000),显然不符合'概率'的要求。

2. Sigmoid 函数的作用:把实数映射到 0~1

Sigmoid 函数

文章配图

的特点是:

  • 当 z 很大(正无穷)时,e^-z 趋近于 0,函数值趋近于 1;
  • 当 z 很小(负无穷)时,e^-z 趋近于正无穷,函数值趋近于 0;
  • 当 z=0 时,函数值正好是 0.5。

这样就能把线性计算的结果,'压缩'成 0~1 之间的概率值,刚好对应'事件发生的可能性'。

3. 逻辑回归的本质:用线性模型拟合'对数几率'

从概率角度,逻辑回归实际是在拟合'对数几率'(log odds):

文章配图

把这个式子变形后,正好能推导出 Sigmoid 形式的预测函数。

所以这个预测函数是'让线性模型适配分类任务(输出概率)'的必然选择。

成本函数

对于整个数据集

文章配图

对于单个样本

文章配图

  • 当真实标签是'恶性(1)',模型预测的概率 f 越接近 1,-log(f) 就越小(损失小);
  • 当真实标签是'良性(0)',模型预测的概率 f 越接近 0,-log(1-f) 就越小(损失小)。

文章配图

当真实结果为 1 时

文章配图

越接近 1 成本函数越小

当真实结果为 0 时

文章配图

越接近 0 成本函数越小

简化后的成本函数

文章配图

文章配图

目录

  1. 定义
  2. 核心特点:
  3. 示例
  4. 1. 数据集部分
  5. 2. 模型部分
  6. 1. 分类任务需要“概率输出”
  7. 2. Sigmoid 函数的作用:把实数映射到 0~1
  8. 3. 逻辑回归的本质:用线性模型拟合“对数几率”
  9. 成本函数
  10. 当真实结果为 1 时
  11. 当真实结果为 0 时
  12. 简化后的成本函数
  • 免费图片AI生成工具免费生成了解详情
  • Magick API 一键接入全球大模型注册送1000万token查看
  • 免费图片视频在线生成30秒,将你的创意变成现实开始设计
  • X/Twitter免费视频下载器免登陆无限额度免费视频解析下载了解详情
  • 100+免费在线小游戏爽一把
极客日志微信公众号二维码

微信扫一扫,关注极客日志

微信公众号「极客日志V2」,在微信中扫描左侧二维码关注。展示文案:极客日志V2 zeeklog

更多推荐文章

查看全部
  • 使用 Python 和 ChromaDB 构建简易 RAG 应用
  • 数据结构:快慢指针原理及链表环检测
  • Stable Diffusion:AI 图像生成技术的变革者
  • 使用 UI UX Pro Max 构建现代前端 UI 工作流
  • Node.js 安装教程与环境变量配置
  • Java 面试高频基础知识点梳理与辨析
  • Flutter 构建 compileDebugJavaWithJavac 报错时的阿里云 Maven 镜像配置
  • SensioFrameworkExtraBundle 路由注解使用指南:从基础到高级
  • Meta-Llama-3-8B-Instruct 部署常见问题与解决方案
  • Java 集合框架:接口体系、常用实现、底层结构与线程安全
  • Docker 部署 PostgreSQL 数据库教程
  • 网络安全应急响应:常见系统敏感目录排查指南
  • Python 流程控制核心:条件语句与循环实战
  • Web3 学习指南:从比特币到以太坊的演进
  • Flutter pathfinding 库在 OpenHarmony 上的适配与实战
  • OpenClaw 安装与飞书机器人全流程配置指南
  • 前端监控实战:构建可观测的前端应用
  • OpenClaw 多 Agent 对接飞书机器人实战指南
  • 学术论文写作中降低 AIGC 检测率的工具指南
  • Qwen3-TTS-12Hz-1.7B-Base 在国际展会 AI 导览机器人中的应用

相关免费在线工具

  • 加密/解密文本

    使用加密算法(如AES、TripleDES、Rabbit或RC4)加密和解密文本明文。 在线工具,加密/解密文本在线工具,online

  • RSA密钥对生成器

    生成新的随机RSA私钥和公钥pem证书。 在线工具,RSA密钥对生成器在线工具,online

  • Mermaid 预览与可视化编辑

    基于 Mermaid.js 实时预览流程图、时序图等图表,支持源码编辑与即时渲染。 在线工具,Mermaid 预览与可视化编辑在线工具,online

  • 随机西班牙地址生成器

    随机生成西班牙地址(支持马德里、加泰罗尼亚、安达卢西亚、瓦伦西亚筛选),支持数量快捷选择、显示全部与下载。 在线工具,随机西班牙地址生成器在线工具,online

  • Gemini 图片去水印

    基于开源反向 Alpha 混合算法去除 Gemini/Nano Banana 图片水印,支持批量处理与下载。 在线工具,Gemini 图片去水印在线工具,online

  • Base64 字符串编码/解码

    将字符串编码和解码为其 Base64 格式表示形式即可。 在线工具,Base64 字符串编码/解码在线工具,online