第一句子网 - 唯美句子、句子迷、好句子大全
第一句子网 > 微信公众号文章信息(阅读量 在看 点赞数)获取

微信公众号文章信息(阅读量 在看 点赞数)获取

时间:2024-01-11 19:57:49

相关推荐

微信公众号文章信息(阅读量 在看 点赞数)获取

实现这一个功能主要用到了selenium、mitmproxy和wechatarticles,利用selenium可以实现脚本模拟浏览器访问,mitmproxy配合wechatarticles获取文章信息。

参考文章:

python爬取微信公众号文章(包含文章内容和图片)

记一次微信公众号爬虫的经历(微信文章阅读点赞的获取)

微信公众号文章全自动采集(使用mitmproxy抓包,然后用pywinauto实现自动点击)微信app_msg动态获取

selenium

selenium有一个官网,建议通过官网的教程入门。Getting Started主要有两步(我用的是python),一个是安装python的包,另一个就是还要下载浏览器的驱动文件,并且设置好环境变量。

mitmproxy

mitmproxy也有一个官网,在官网文档里的Getting Started里面写了,它默认监听本地的8080端口。有了这个代理,我们就可以获取网络传输中的数据包,要把它用起来就需要对代理进行设置。因为后面需要微信客户端的数据包收发进行监听,所以我直接对系统的代理进行了设置。

可以直接在windows桌面的搜索栏中搜索“代理”,就可以找到“代理服务器设置”,然后手动如图设置代理即可。

具体实现流程

具体步骤分为两步:

首先要获取想了解的公众号的所有文章链接;再通过这些文章链接获取具体的文章信息

文章链接获取

按照上面第一篇参考文章中的方法,获取文章链接。值得一提的是,只要有微信和一个邮箱,就可以注册一个订阅号。这个邮箱绑定了订阅号之后就不能用来绑定其他的东西了,比如小程序。就一开始我的微信用一个邮箱绑定了一个小程序,然后微信登录的时候一直只有小程序的选项。这个时候其实只需要再搞一个邮箱,然后注册一个订阅号就可以了。

公众号管理界面可能跟上面文章中所说的不一样了,但实际上变化不大,还是只需要通过创建新的图文消息,来进入公众号文章链接引用的界面。

利用login.py和get_article_link.py两个文件获取所有文章链接。首先用login.py获取cookies,再用get_articleInfo.py获取文章链接。在使用的时候发现,这个网页也有反爬的机制,出现错误之后就等几个小时再继续。

和参考的文章中不一样的地方在于,我用的是Edge浏览器,然后在获取文章链接的同时还获取了文章的发布时间。具体的参数需要参考原文。

# -!- coding: utf-8 -!-# login.py 用于保存微信帐号登录信息# 以下代码中的微信登录帐号密码需要修改from selenium import webdriverimport timeimport jsondriver = webdriver.Edge()driver.get("https://mp./") # 微信公众平台网址driver.find_element_by_link_text("使用帐号登录").click() # 切换到用帐号密码登录driver.find_element_by_name("account").clear()driver.find_element_by_name("account").send_keys("帐号") # 自己的微信公众号time.sleep(2)driver.find_element_by_name("password").clear()driver.find_element_by_name("password").send_keys("密码") # 自己的微信公众号密码driver.find_element_by_class_name("icon_checkbox").click()time.sleep(2)driver.find_element_by_class_name("btn_login").click()time.sleep(15)#此时会弹出扫码页面,需要微信扫码cookies = driver.get_cookies() # 获取登录后的cookiesprint(cookies)cookie = {}for items in cookies:cookie[items.get("name")] = items.get("value")# 将cookies写入到本地文件,供以后程序访问公众号时携带作为身份识别用with open('cookies.txt', "w") as file:# 写入转成字符串的字典file.write(json.dumps(cookie))

# -*- coding:utf-8 -*- # get_article_link.py# 参考第一篇文章链接,需要对一些参数进行修改# 在参考文章的基础上,增加了文章发布时间的条目import requestsimport jsonimport reimport timewith open("cookies.txt", "r") as file:cookie = file.read()cookies = json.loads(cookie)url = "https://mp."response = requests.get(url, cookies=cookies)print(response.url)token = re.findall(r'token=(\d+)', str(response.url))[0] # 从url中获取tokenheaders = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.81 Safari/537.36 Edg/94.0.992.50", # 需要根据需求修改"Referer": "https://mp./cgi-bin/appmsg?t=media/appmsg_edit_v2&action=edit&isNew=1&type=77&createType=0&token="+token+"&lang=zh_CN", # 需要根据需求修改"Host": "mp.",}with open('article_link.txt', "w", encoding='utf-8') as file:for j in range(1, 53, 1): # 循环次数根据实际情况进行设置begin = (j-1)*5requestUrl = "https://mp./cgi-bin/appmsg?action=list_ex&begin="+str(begin)+"&count=5&fakeid=MzU4MjY2OTY2NQ==&type=9&query=&token="+token+"&lang=zh_CN&f=json&ajax=1"search_response = requests.get(requestUrl, cookies=cookies, headers=headers)re_text = search_response.json()list = re_text.get("app_msg_list")for i in list:timestr = i["create_time"]timeArray = time.localtime(int(timestr))otherStyleTime = time.strftime("%Y-%m-%d %H:%M:%S", timeArray) # 文章发布时间file.write(i["aid"]+"<=====>"+i["title"]+"<=====>"+i["link"] + "<=====>" + otherStyleTime + "\n")print(i["aid"]+"<=====>"+i["title"]+"<=====>"+i["link"] + "<=====>" + otherStyleTime)time.sleep(20)

获得的文本文件,可以导入Excel做成表格。在Excel中选择从文本导入数据,分隔符设置为“<=====><=====><=====>”。我在导入的时候遇到了一点问题,就有些地方它不识别这个分割符号。我就把这个“<=====>”“<=====>”“<=====>”,在文本文件中全部替换成分号,再用Excel导入就没问题了。

获取文章信息

获取文章信息是参考第二和第三篇文章做的。想要获取微信公众号文章的阅读量、点赞等信息,在浏览器中打开微信公众号文章是没有用的。只有通过微信打开才能拿到这些信息。所以在第三篇文章中,原作者就搞了一个自动控制微信的脚本,在文件传输助手中点击文章链接来产生带cookie和appmsg_token的包。但如果文章数量比较少,其实可以手动点。经过测试,每次获得的cookie和appmsg_token至少可以用来获取100篇文章的信息。

# -*- coding:utf-8 -*- # write_cookies.pyimport urllibimport sysfrom mitmproxy import ctxfrom mitmproxy import io, http# command: mitmdump -s write_cookies.py -w dat mp./mp/getappmsgextclass WriterCookie:"""mitmproxy的监听脚本,写入cookie和url到文件"""def __init__(self,outfile: str) -> None:self.f = open(outfile, "w")def response(self, flow: http.HTTPFlow) -> None:"""完整的response响应:param flow: flow实例,"""# 获取urlurl = urllib.parse.unquote(flow.request.url)# 将url和cookie写入文件if "mp./mp/getappmsgext" in url:self.f.write(url + '\n')self.f.write(str(flow.request.cookies))self.f.close()# 退出exit()# 第四个命令中的参数addons = [WriterCookie(sys.argv[4])]

write_cookies.py是mitmproxy的监听脚本,可以从下面的命令看出来,当它监听到“mp./mp/getappmsgext”这种请求包时,就把请求包的内容保存下来。这种请求就是每次微信打开公众号文章是发出的请求包。

"mitmdump -s {}/write_cookies.py -w {} mp./mp/getappmsgext".format('./cookie.txt')

# -*- coding:utf-8 -*- # get_Info.pyimport reimport osimport threadingfrom wechatarticles import ArticlesInfoimport timeclass ReadCookie(object):"""启动write_cookie.py 和 解析cookie文件,"""def __init__(self,outfile):self.outfile = outfileprint(self.outfile)def parse_cookie(self):"""解析cookie:return: appmsg_token, biz, cookie_str·"""with open(self.outfile) as f:data = f.read()appmsg_token_string = re.findall("appmsg_token.+?&", data)[0].split('=')[1]cookies = re.findall(r"\['(.*?)'\]", data)Wechat_cookies = {}for cookie in cookies:cookie = cookie.split("', '")Wechat_cookies[cookie[0]] = cookie[1]return appmsg_token_string,Wechat_cookiesdef write_cookie(self):"""启动 write_cookies。py:return:"""#当前文件路径path = os.path.split(os.path.realpath(__file__))[0]#path = os.getcwd()print(path)# mitmdump -s 执行脚本 -w 保存到文件 本命令command = "mitmdump -s {}/write_cookies.py -w {} mp./mp/getappmsgext".format(path,self.outfile)os.system(command)def get_cookie():rc = ReadCookie('cookie.txt')rc.write_cookie()appmsg_token_string, cookies = rc.parse_cookie()return appmsg_token_string, cookiesfp_src = open('links.txt', 'r')fp_dst = open('articleInfo.txt', 'w')count = 0while True:# 登录微信PC端获取文章信息appmsg_token, cookies = get_cookie()# print(appmsg_token_string)cookie = ''for ck in cookies.items():if not cookie:cookie = cookie + ck[0] + '=' + ck[1]else:cookie = cookie + '; ' + ck[0] + '=' + ck[1]print(cookie)for i in range(100):url = fp_src.readline()if not url:breakarticle_url = urltest = ArticlesInfo(appmsg_token, cookie)read_num, like_num, old_like_num = test.read_like_nums(article_url)count = count + 1print(str(count) + " read_like_num:", read_num, like_num, old_like_num)fp_dst.write(str(read_num) + ';' + str(like_num) + ';' + str(old_like_num) + '\n')time.sleep(3)

对监听到的包解析之后就可以获取我们需要的cookie和appmsg_token,然后那这个去获取微信公众号的文章信息,重复100次后,再去更新cookie和appmsg_token。在此之前,我已经事先把所有文章的链接都存到了一个文本文件“links.txt”中,每次都从里面读一行就是一个文章链接。

然后每到100条记录之后,我就手动点这个文件传输窗口中的链接,就是每次命令行提示下面的信息的时候,我就点一下上面文件传输助手中的链接来更新cookie和appmsg_token。

Proxy server listening at http://*:8080

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。