线上 GC 告警,我菊花一紧,裤子都没提!!

线上 GC 告警,我菊花一紧,裤子都没提!!
www.zeeklog.com  - 线上 GC 告警,我菊花一紧,裤子都没提!!

阅读本文约需要5分钟

就在上周,晚上下班后在家上厕所,突然微信企业邮箱收到线上GC告警了:G1 Young Generation Count 超过阈值。我菊花一紧,裤子还没来得及提。这是我入职拼多多后第一次遇到这样的问题。

问题分析

同步处理数据量大时,内存使用量激增,导致GC频率增加,从而引发告警。

解决方案

1. 任务拆分(Task Sharding)

将任务拆分成多个小任务,由多台机器并行处理。具体实现方式:

  • 假设线上有两台机器A和B,将一个任务分成10片。
  • 用数据标识(如id)模片数,分配到不同的机器上执行。

2. 数据分片策略

每条数据有一个唯一标识,通过该标识对数据进行分片。例如,假设处理14267条数据:

  • A机器负责[0,1,2,3,4]片,B机器负责[5,6,7,8,9]片。

总结

通过以上方法,成功解决了高并发场景下的内存占用问题。这次经历让我意识到公司内部的一些重要资源和工具的作用:

  • 强大的监控平台确保问题第一时间被发现并解决。
  • 统一的调度平台帮助管理定时任务,提高效率。
  • 详细的文档和知识分享群为团队提供了技术支持。

希望以上经验对大家有所帮助。下次有时间再来分享更多内容。

www.zeeklog.com  - 线上 GC 告警,我菊花一紧,裤子都没提!!

Read more

超快速,使用ChatGPT编写回归和分类算法

超快速,使用ChatGPT编写回归和分类算法

本文将使用一些 ChatGPT 提示,这些提示对于数据科学家在工作时非常重要。 微信搜索关注《Python学研大本营》,加入读者群,分享更多精彩 以下是一些示例ChatGPT 提示的列表以及数据科学家的响应。 ChatGPT 提示 为决策树回归算法生成 python 代码。 下面是使用scikit-learn在 Python 中进行决策树回归的示例代码: import numpy as np import matplotlib.pyplot as plt from sklearn.tree import DecisionTreeRegressor # Generate random data rng = np.random.default_rng() x = 5 * rng.random(100) y = np.sin(x) + 0.

By Ne0inhk
力扣每日一题:993.二叉树的堂兄弟节点 深度优先算法

力扣每日一题:993.二叉树的堂兄弟节点 深度优先算法

993.二叉树的堂兄弟节点 难度:简单 题目: 在二叉树中,根节点位于深度 0 处,每个深度为 k 的节点的子节点位于深度 k+1 处。 如果二叉树的两个节点深度相同,但 父节点不同 ,则它们是一对堂兄弟节点。 我们给出了具有唯一值的二叉树的根节点 root ,以及树中两个不同节点的值 x 和 y 。 只有与值 x 和 y 对应的节点是堂兄弟节点时,才返回 true 。否则,返回 false。 示例: 示例 1: 输入:root = [1,2,3,4], x = 4, y = 3 输出:false

By Ne0inhk
1239.串联字符串的最大长度 关于字符串的回溯算法!

1239.串联字符串的最大长度 关于字符串的回溯算法!

题目: 给定一个字符串数组 arr,字符串 s 是将 arr 某一子序列字符串连接所得的字符串, 如果 s 中的每一个字符都只出现过一次,那么它就是一个可行解。 请返回所有可行解 s 中最长长度。 提示: 1 <= arr.length <= 16 1 <= arr[i].length <= 26 arr[i] 中只含有小写英文字母 示例: 示例 1: 输入:arr = ["un","iq","ue"] 输出:4 解释:所有可能的串联组合是

By Ne0inhk