使用 Puppeteer 和 Headless Chrome 获取 DOM 节点文本

2024-05-12

我正在尝试使用无头 Chrome 和 Puppeteer 来运行我们的 Javascript 测试,但我无法从页面中提取结果。基于这个答案 https://stackoverflow.com/a/45799744/4794,看起来我应该使用page.evaluate() https://github.com/GoogleChrome/puppeteer/blob/master/docs/api.md#pageevaluatepagefunction-args。该部分甚至有一个看起来像我需要的示例。

const bodyHandle = await page.$('body');
const html = await page.evaluate(body => body.innerHTML, bodyHandle);
await bodyHandle.dispose();

作为一个完整的示例,我尝试将其转换为一个脚本,该脚本将从 Stack Overflow 上的用户个人资料中提取我的名字。我们的项目使用的是 Node 6,所以我转换了await使用的表达式.then().

const puppeteer = require('puppeteer');

puppeteer.launch().then(function(browser) {
    browser.newPage().then(function(page) {
        page.goto('https://stackoverflow.com/users/4794').then(function() {
            page.$('h2.user-card-name').then(function(heading_handle) {
                page.evaluate(function(heading) {
                    return heading.innerText;
                }, heading_handle).then(function(result) {
                    console.info(result);
                    browser.close();
                }, function(error) {
                    console.error(error);
                    browser.close();
                });
            });
        });
    });
});

当我运行它时,我收到此错误:

$ node get_user.js 
TypeError: Converting circular structure to JSON
    at Object.stringify (native)
    at args.map.x (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/helper.js:30:43)
    at Array.map (native)
    at Function.evaluationString (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/helper.js:30:29)
    at Frame.<anonymous> (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/FrameManager.js:376:31)
    at next (native)
    at step (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/FrameManager.js:355:24)
    at Promise (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/FrameManager.js:373:12)
    at fn (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/FrameManager.js:351:10)
    at Frame._rawEvaluate (/mnt/data/don/git/Kive/node_modules/puppeteer/node6/FrameManager.js:375:3)

问题似乎在于将输入参数序列化为page.evaluate()。我可以传入字符串和数字,但不能传入元素句柄。是例子错了,还是Node 6的问题?如何提取 DOM 节点的文本?


我找到了解决这个问题的三种解决方案,具体取决于提取的复杂程度。最简单的选项是我没有注意到的相关函数:page.$eval() https://github.com/GoogleChrome/puppeteer/blob/master/docs/api.md#pageevalselector-pagefunction-args。它基本上做了我想做的事情:结合page.$() and page.evaluate()。这是一个有效的示例:

const puppeteer = require('puppeteer');

puppeteer.launch().then(function(browser) {
    browser.newPage().then(function(page) {
        page.goto('https://stackoverflow.com/users/4794').then(function() {
            page.$eval('h2.user-card-name', function(heading) {
                return heading.innerText;
            }).then(function(result) {
                console.info(result);
                browser.close();
            });
        });
    });
});

这给了我预期的结果:

$ node get_user.js 
Don Kirkby top 2% overall

我想提取一些更复杂的东西,但我终于意识到评估函数正在运行在页面的上下文中。这意味着您可以使用页面中加载的任何工具,然后只需来回发送字符串和数字。在此示例中,我在字符串中使用 jQuery 来提取我想要的内容:

const puppeteer = require('puppeteer');

puppeteer.launch().then(function(browser) {
    browser.newPage().then(function(page) {
        page.goto('https://stackoverflow.com/users/4794').then(function() {
            page.evaluate("$('h2.user-card-name').text()").then(function(result) {
                console.info(result);
                browser.close();
            });
        });
    });
});

这给了我一个空白完整的结果:

$ node get_user.js 

                            Don Kirkby

                                top 2% overall

在我的真实脚本中,我想提取多个节点的文本,因此我需要一个函数而不是简单的字符串:

const puppeteer = require('puppeteer');

puppeteer.launch().then(function(browser) {
    browser.newPage().then(function(page) {
        page.goto('https://stackoverflow.com/users/4794').then(function() {
            page.evaluate(function() {
                return $('h2.user-card-name').text();
            }).then(function(result) {
                console.info(result);
                browser.close();
            });
        });
    });
});

这给出了完全相同的结果。现在我需要添加错误处理,也许还需要减少缩进级别。

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

使用 Puppeteer 和 Headless Chrome 获取 DOM 节点文本 的相关文章

随机推荐