[论文翻译][2015][28]Bayesian Estimation of the DINA Model With Gibbs Sampling(基于Gibbs采样的DINA模型贝叶斯参数估计方法)

本文主要是介绍[论文翻译][2015][28]Bayesian Estimation of the DINA Model With Gibbs Sampling(基于Gibbs采样的DINA模型贝叶斯参数估计方法),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

Bayesian Estimation of the DINA Model With Gibbs Sampling

  • 下载论文
  • 摘要
  • 引言
  • DINA模型
  • 贝叶斯参数估计优势
  • 基于贝叶斯的DINA模型参数估计方法
    • 贝叶斯模型表达式
    • 全条件分布
  • 蒙特卡洛仿真研究
  • 应用:空时可视化测试
  • 讨论
  • 参考文献

下载论文

摘要

基于已经提出的DINA模型的贝叶斯表达公式,可以使用Gibbs采样通过联合后延分布来拟合试题的猜对率、失误率、被试属性和潜在认知状态的概率。本程序扩展了Be guain等人的方法以估计三参数和四参数正则模型中的失误率和猜对率。模拟实验表明该模型具备较好的参数拟合能力。该技术已被应用与心理旋转测试,研究人员可以通过“DINA”R软件包免费获取该算法和插件。
关键词: 认知诊断; 贝叶斯统计; 蒙特卡洛;空间认知

引言

认知诊断模型(CDMs)是诊断学生技掌握状态的重要手段。研究者提出了大量的认知诊断模型,如DINA模型、NIDA模型、DINO模型、RUM模型、GDINA模型、LCDM模型和通用诊断模型等。上述模型的复杂程度不同,且先前的研究表明,诸如DINA模型、NIDA模型、DINO模型可以被应用在更为广泛的认知诊断框架中。DINA模型因其具备较好的可解释性成为当今比较流行的认知诊断模型。本篇文章的目的是运用Gibbs采样,并引入引入DINA模型的贝叶斯表达式来进行参数估计。

本文包括5个章节。第一章介绍DINA模型的基本概念并基于之前的研究讨论本文推荐的贝叶斯表达式的优势。第二章详细阐述贝叶斯表达式和如何基于Gibbs采样运用全条件分布来估计被试(技能掌握情况和属性信息)和试题(猜对率、失误率)的相关参数。第三章通过模拟数据研究,来展示模型的参数拟合效果。第四章展示模型在心里选择测试中的应用。最后一章包含讨论、未来的研究方向和总结回顾。

DINA模型

i = 1 , … , N i = 1,…,N i=1,,N代表每个被试的编号, j = 1 , … , J j=1,…,J j=1,,J代表试题的编号, K = 1 , … K K=1,…K K=1,K代表技能编号, c = 1 , … , C c=1,…,C c=1,,C代表潜在技能组合的编号。认知诊断模型假定知道每到试题覆盖了哪些技能点,则 J J J道试题会产生一个 J × K J \times K J×K结构化矩阵,矩阵中的元素可以为0或者1( q j , k ∈ { 0 , 1 } q_{j,k} \in \lbrace 0,1\rbrace qj,k{0,1})代表答对试题 j j j是否需要技能点 k k k。也就是说 q j , k = 1 q_{j,k} = 1 qj,k=1代表答对试题 j j j需要技能点 k k k,如果为0,则代表不需要技能点 k k k。令 q = ( q j , 1 , … , q j , K ) \boldsymbol{q} = (q_{j,1},…,q_{j,K}) q=(qj,1,,qj,K)即Q矩阵中的一行,代表试题 j j j所需要的技能向量。

DINA模型假定每位测试者在 K K K个技能点上都有掌握和不掌握两种状态。如果被试 i i i掌握技能 k k k,则令 α i , k = 1 \alpha_{i,k} = 1 αi,k=1,否则令 α i , k = 0 \alpha_{i,k} = 0 αi,k=0。则被试 i i i的技能状态可以用 K K K维的二分向量来标识 α i = ( α i , 1 , … , ( α i , K ) \boldsymbol {\alpha_i} = (\alpha_{i,1},…,(\alpha_{i,K}) αi=(αi,1,,(αi,K) K K K个技能点,共可以产生 2 K 2^K 2K个技能点组合, α i \boldsymbol {\alpha_i} αi便是其中的一种。对于技能组合(分类) c c c来说,其对应的技能组合维 α c = ( α c , 1 , … , ( α c , K ) \boldsymbol {\alpha_c} = (\alpha_{c,1},…,(\alpha_{c,K}) αc=(αc,1,,(αc,K),若技能组合 c c c包含技能点 k k k,则令 α c , k = 1 \alpha_{c,k} = 1 αc,k=1,否则令其为0。

DINA模型是一款连接模型,这意味着,不考虑猜对的情况下,被试需要掌握向量 q j \boldsymbol{q_j} qj中所有的知识点才能答对试题。我们令被试 i i i的理想答题结果为 η i = ( η i , 1 , … , η i , J ) \boldsymbol{\eta_{i}} = (\eta_{i,1},…,\eta_{i,J}) ηi=(ηi,1,,ηi,J),其中
η i , j = ∏ k = 1 K α i , k q j , k = I ( α i T ⋅ q j = q j T ⋅ q j ) \eta_{i,j} = \prod_{k=1}^K{\alpha_{i,k}^{q_{j,k}}} =\mathcal{I} (\boldsymbol{\alpha_i}^T \cdot \boldsymbol{q_j} = \boldsymbol{q_j}^T \cdot \boldsymbol{q_j} ) ηi,j=k=1Kαi,kqj,k=I(αiTqj=qjTqj)

其中 I \mathcal{I} I为指示函数。当 η i , j = 1 \eta_{i,j} = 1 ηi,j=1表示被试 i i i掌握了试题 j j j所需要的所有技能点,当 η i , j = 0 \eta_{i,j} = 0 ηi,j=0代表被试 i i i未完全掌握答题试题 j j j所需的技能点。在DINA模型中,被试 i i i答对试题 j j j的概率是一个关于被试技能组合 α i \boldsymbol{\alpha_i} αi和试题参数的函数:
P ( y i , j = 1 ∣ α i , Ω j ) = { g j , η i , j = ∏ k = 1 K α i , k q j , k = 0 1 − s j , η i , j = ∏ k = 1 K α i , k q j , k = 1 (1) P(y_{i,j}=1|\boldsymbol{\alpha_i}, \boldsymbol{\Omega_j}) = \begin{cases} g_j, & { \eta_{i,j} = \prod_{k=1}^K{\alpha_{i,k}^{q_{j,k}}} = 0} \\ 1 - s_j, & { \eta_{i,j} = \prod_{k=1}^K{\alpha_{i,k}^{q_{j,k}}} = 1 } \end{cases} \tag{1} P(yi,j=1αi,Ωj)={gj,1sj,ηi,j=k=1Kαi,kqj,k=0ηi,j=k=1Kαi,kqj,k=1(1)
Ω j = ( g j , s j ) \boldsymbol{\Omega_j}=(g_j, s_j) Ωj=(gj,sj)是试题参数的行向量,其中 g j g_j gj为未掌握试题 j j j所需的知识点但是能猜对该题的概率 g j = P ( y i , j = 1 ∣ η i , j = 0 ) g_j = P(y_{i,j}=1|\eta_{i,j} = 0) gj=P(yi,j=1ηi,j=0); 相反, s j s_j sj代表掌握了试题 j j j所需的知识点,但是失误答错的概率 s j = P ( y i , j = 0 ∣ η i , j = 1 ) s_j = P(y_{i,j} = 0|\eta_{i,j} = 1) sj=P(yi,j=0ηi,j=1)

DINA模型的响应函数可以用于构建可观察的试题得分结果的似然函数。令 y i = ( y i , 1 , y i , 2 , … , y i , J ) \boldsymbol{y_i} = (y_{i,1},y_{i,2},…,y_{i,J}) yi=(yi,1,yi,2,,yi,J),用该 J J J维向量来表示第 i i i个学生 J J J题的答题结果,其中 y i , j y_{i,j} yi,j为1代表第 i i i个学生答对了 j j j题,为0代表未大对该题。令 Ω = ( Ω 1 , Ω 2 , … , Ω J ) \boldsymbol{\Omega} = (\boldsymbol{\Omega_1},\boldsymbol{\Omega_2},…,\boldsymbol{\Omega_J}) Ω=(Ω1,Ω2,,ΩJ)代表 J J J题的猜对率和失误率。同时,令 P j , c = P ( y = 1 ∣ α c , Ω j ) P_{j,c} = P(y=1|\boldsymbol{\alpha_c},\boldsymbol{\Omega_j}) Pj,c=P(y=1αc,Ωj)代表知识状态为 α c \boldsymbol{\alpha_c} αc时,答对试题 j j j的概率,注意 α i = α c \alpha_i = \alpha_c αi=αc代表被试 i i i为第 c c c种(类)知识状态。假定试题的答题结果条件依赖给定的 α i \boldsymbol{\alpha_i} αi,则在给定被试为第 c c c中知识状态下,观察到答题结果 y i y_i yi的概率为:
p ( y i ∣ α i = α c , Ω ) = ∏ j = 1 J P j , c y i , j ( 1 − P j , c ) ( 1 − y i , j ) (2) p(y_i|\boldsymbol{\alpha_i} = \boldsymbol{\alpha_c}, \boldsymbol{\Omega} ) = \prod_{j=1}^J{P_{j,c}^{y_{i,j}}(1 - P_{j,c})^{(1 - y_{i,j})}} \tag{2} p(yiαi=αc,Ω)=j=1JPj,cyi,j(1Pj,c)(1yi,j)(2)

π c = P ( α c ) \pi_c = P(\boldsymbol{\alpha_c}) πc=P(αc)代表第 c c c种知识状态出现的概率, 令 π = ( π 1 , π 2 , … , π C ) \boldsymbol{\pi} = (\pi_1,\pi_2,…,\pi_C) π=(π1,π2,,πC)代表C种知识状态各自出现概率的向量。在给定被试的答题结果 y i y_i yi,试题的参数 Ω \boldsymbol{\Omega} Ω,各种知识状态出现的概率 π \boldsymbol{\pi} π,则依据边际概率定义可知:
P ( y i ∣ Ω , π ) = ∑ c = 1 C π c P ( y i ∣ α i = α c , Ω ) (3) P(y_i|\boldsymbol{\Omega}, \boldsymbol{\pi}) = \sum_{c=1}^C{\pi_c P(y_i|\boldsymbol{\alpha_i} = \boldsymbol{\alpha_c}, \boldsymbol{\Omega})} \tag{3} P(yiΩ,π)=c=1CπcP(yiαi=αc,Ω)(3)

则观察到的 N N N个被试 J J J题的答题结果发送的似然函数维:
p ( y ∣ Ω , π ) = ∏ i = 1 N ∑ c = 1 C π c P ( y i ∣ α i = α c , Ω ) (4) p(\boldsymbol{y}|\boldsymbol{\Omega},\boldsymbol{\pi}) = \prod_{i=1}^N{ \sum_{c=1}^C{\pi_c P(y_i|\boldsymbol{\alpha_i} = \boldsymbol{\alpha_c}, \boldsymbol{\Omega})}} \tag{4} p(yΩ,π)=i=1Nc=1CπcP(yiαi=αc,Ω)(4)

其中 y = ( y 1 , y 2 , … , y N ) \boldsymbol{y} = (\boldsymbol{y_1},\boldsymbol{y_2},…,\boldsymbol{y_N}) y=(y1,y2,,yN)是观察到的 N × J N \times J N×J 被试答题结果矩阵。

贝叶斯公式主要关注参数的后验概率分布,对于 DINA模型来说:
p ( Ω , π ∣ y ) ∝ p ( y ∣ Ω , π ) p ( Ω ) p ( π ) (5) p(\boldsymbol{\Omega},\boldsymbol{\pi}|\boldsymbol{y}) \propto p(\boldsymbol{y}|\boldsymbol{\Omega},\boldsymbol{\pi})p(\boldsymbol{\Omega})p(\boldsymbol{\pi}) \tag{5} p(Ω,πy)p(yΩ,π)p(Ω)p(π)(5)

其中 p ( Ω ) p(\boldsymbol{\Omega}) p(Ω)未试题参数的先验分布, p ( π ) p(\boldsymbol{\pi}) p(π)为各种知识状态的先验概率分布。Maris1指出了CMD参数后验分布难以处理的特性,并提出了使用蒙特卡洛采样曾向进行后验参数分布估计的方法。因此,众多后续研究采用了MCMC程序来对CDM参数进行后验分布估计2。Roussos等人对参数估计方法进行了总结(包括基于贝叶斯模型和非贝叶斯模型得参数估计)3。同时,之前得研究者还讨论了如何使用标准得统计软件对认知诊断模型进行参数估计。

贝叶斯参数估计优势

本文为DINA认知诊断模型开发得贝叶斯参数估计相对当前已有得程序具备如下优势。

第一、 模型公式可以得出学生和试题得可分析的完整条件分布,从而可以使用吉布斯才进行进行有效的计算。DINA模型和其他认知诊断模型之前采用的是基于马氏链的蒙特卡洛采样方法(MCMC-MH),这种方法需要调整 Ω \boldsymbol{\Omega} Ω π \boldsymbol{\pi} π的分布参数。因此每次使用MH算法对新数据进行分析时,需要重新对参数进行调整,具体来说,研究人员需要调整参数来确保击中率超过50%(拒绝率小于50%)。尽管诊断给定的数据仅需要数次调整参数即可,但是对于MH算法经验欠缺的人来说,会使得软件应用起来非常繁琐。相反,随后讨论的基于全条件分布的Gibbs采样,无需手工调整参数即可轻松使用。

再举一个例子,考虑后续模拟研究中,基于MH算法的额外需求。在编写算法代码并确定模拟条件后,需要确定 Ω \boldsymbol{\Omega} Ω π \boldsymbol{\pi} π的候选参数。后续参数需要反复实验进行调整,以确保接受率能达到25%到50%,因此需要花费大量的精力来进行参数调整。相反,使用本文开发的Gibbs采样程序只需提供先验参数即可。本文随后提出的程序,对 Ω \boldsymbol{\Omega} Ω π \boldsymbol{\pi} π引入了无信息的统一先验,因此可以快速使用算法进行参数估计。

第二、 本文提出的方案有利于进行Gibbs采样。比如,之前的CDM研究者们使用OpenBUGS4 Gibbs采样来对DINA模型进行参数估计,使用WinBUGS5 Gibbs采样来对HO-DINA模型进行参数估计。然而,Open BUGS和WinBUGS都存在一个缺陷,他们都没有明确规定DINA模型的单调性限制,即对所有试题而言 0 ≤ g j + s j ≤ 1 0 \le g_j + s_j \le 1 0gj+sj16。因为先前的Gibbs采样方法没有严格的执行可识别的条件,因此可能会导致应用程序的收敛性。随后讨论的模型扩展了三参数贝叶斯公式和四参数贝叶斯公式,来明确模型的单调性需求。因此本文的策略可以被扩展到其他包含失误率和猜对率的认知诊断模型中,如NIDA,NIDO和RUM。

第三、 与接受/拒绝采样方法相比(如MH算法),Gibbs采样一个可以被证明的优势是改进了链的收敛。也就是说,先前的研究表明,在25%到50%的迭代之间接受后选择,则MH采样收敛效果最好。因此,假设后验采样的变化少于迭代次数的一半,MH采样可能导致后验采样的收敛速度变慢。相反,Gibbs采样有潜力利用完整的条件分布来进行采样来改善收敛效果。但是,正如一位匿名的评论家所言
,Gibbs采样不能保证所有的模型和参数收敛速度更快。随后给出的蒙特卡洛证据表明,MCMC算法在350到750次迭代后,参数的后验分布完成收敛,相反之前的使用Gibbs采样进行参数估计的方法,要进行1000到5000步迭代才能收敛。

第四、 如下文所述,学生潜在的属性一般是使用先验模型进行建模的。这么做的一个优点是,指定分类先验提供一种自然的方法来计算学生获取技能的可能性和学生知识状态潜在的分类。也就是说,可以总结每个学生技能分布的后延分布,来显示学生归属各个潜在类别的概率。

第五、 本文提供的算法已经以 ‘DINA’ R 软件包 的形式免费开放给研究者。本文提出的Gibbs采样使用C++语言编写,参数估计具有更高的效率。而且,R软件包中含有说明文档和插图,方便研究者上手和使用。

DINA R软件包地址:https://cran.r-project.org/web/packages/dina/index.html

基于贝叶斯的DINA模型参数估计方法

本章将介绍DINA模型的贝叶斯公式。第一部分将展现模型,并介绍先验概率。第二部分将为你呈现Gibbs采样的全条件分布实现细节。

贝叶斯模型表达式

依据DINA认知诊断模型的定义,可以得出如下贝叶斯公式:

y i , j ∣ α i , Ω j ∼ B e r n o u l l i ( ( 1 − s j ) η i , j g j ( 1 − η i , j ) ) , η i , j = I ( α i T ⋅ q j = q j T ⋅ q j ) (6) y_{i,j}|\boldsymbol{\alpha_i},\boldsymbol{\Omega_j} \sim Bernoulli\left((1 - s_j)^{\eta_{i,j}}g_j^{(1 - \eta_{i,j})}\right), \eta_{i,j} = \mathcal{I} (\boldsymbol{\alpha_i}^T \cdot \boldsymbol{q_j} = \boldsymbol{q_j}^T \cdot \boldsymbol{q_j} ) \tag{6} yi,jαi,ΩjBernoulli((1sj)ηi,jgj(1ηi,j)),ηi,j=I(αiTqj=qjTqj)(6) p ( α i ∣ π ) ∝ ∏ c = 1 C π c I ( α i = α c ) , 0 ≤ π c ≤ 1 , ∑ c = 1 C π c = 1 (7) p(\boldsymbol{\alpha_i}|\boldsymbol{\pi}) \propto \prod_{c=1}^C{\pi_c^{ \mathcal{I} ({\alpha_i} = {\alpha_c})}}, 0 \le \pi_c \le 1, \sum_{c=1}^C \pi_c = 1 \tag{7} p(αiπ)c=1CπcI(αi=αc),0πc1,c=1Cπc=1(7) p ( π ) = p ( π 1 , π 2 , … , π C ) ∝ D i r i c h l e t ( δ 0 ) , δ 0 = ( δ 0 , 1 , … , δ 0 , C ) (8) p(\boldsymbol{\pi}) = p(\pi_1,\pi_2,…,\pi_C) \propto Dirichlet(\boldsymbol{\delta_0}), \boldsymbol{\delta_0} = (\delta_{0,1},…,\delta_{0,C}) \tag{8} p(π)=p(π1,π2,,πC)Dirichlet(δ0),δ0=(δ0,1,,δ0,C)(8) p ( Ω j ) = p ( s j , g j ) ∝ s j ( α s − 1 ) ( 1 − s j ) ( β s − 1 ) g j ( α g − 1 ) ( 1 − g j ) ( β g − 1 ) I ( ( s j , g j ) ∈ P ) P = { ( s , g ) : 0 ≤ s + g ≤ 1 , 0 ≤ s ≤ 1 , 0 ≤ g ≤ 1 } (9) p(\boldsymbol{\Omega_j}) = p(s_j, g_j) \propto s_j^{(\alpha_s - 1)}(1 - s_j)^{(\beta_s - 1)}g_j^{(\alpha_g - 1)}(1 - g_j)^{(\beta_g - 1)}\mathcal{I} \left((s_j,g_j) \in \mathcal{P} \right) \\ \mathcal{P} = \{(s,g): 0 \le s + g \le 1 , 0 \le s \le 1, 0 \le g \le 1\} \tag{9} p(Ωj)=p(sj,gj)sj(αs1)(1sj)(βs1)gj(αg1)(1gj)(βg1)I((sj,gj)P)P={(s,g):0s+g1,0s1,0g1}(9)式6假定在给定学生知识状态 α i \boldsymbol{\alpha_i} αi和试题参数 Ω j \boldsymbol{\Omega_j} Ωj的情况下,试题的响应函数服从伯努利分布。事实上,式6只是对等式1的重新描述。式7假定被试知识向量 α i \boldsymbol{\alpha_i} αi的分类先验,即属于类别 c c c的概率: π c = p ( α i = α c ∣ π ) \pi_c = p(\boldsymbol{\alpha_i} = \boldsymbol{\alpha_c}|\boldsymbol{\pi}) πc=p(αi=αcπ).

式8显示 π \boldsymbol{\pi} π的共轭先验是以 δ 0 = ( δ 0 , 1 , … , δ 0 , C ) \boldsymbol{\delta_0} = (\delta_{0,1},…,\delta_{0,C}) δ0=(δ0,1,,δ0,C)为参数的Dirichlet分布。回想一下Dirchlet分布,它是Beta分布的多元版本,支持单位间隔。 δ 0 \boldsymbol{\delta_0} δ0中的元素值指明了各个分类的常见先验信息。如果没有 π \boldsymbol{\pi} π的先验信息,可以将 δ 0 \boldsymbol{\delta_0} δ0设置为1,研究者也可以根据世界情况调整 δ 0 \boldsymbol{\delta_0} δ0的值。比如 π c \pi_c πc的边际分布服从 B e t a ( δ 0 , c , ∑ c ′ ≠ c δ 0 , c ′ ) Beta(\delta_{0,c}, \sum_{c^{\prime} \ne c}{\delta_{0,c^{\prime}}}) Beta(δ0,c,c=cδ0,c),词 δ 0 \boldsymbol{\delta_0} δ0的值可以选用能体现观察到的 π c \pi_c πc的值。 提示一下,下个章节讨论的蒙特卡洛方法的结果表明,对于任意的 c c c,当 δ 0 , c = 1 \delta_{0,c} = 1 δ0,c=1时,模型具有很强的鲁棒性。

式9包含 Ω j \boldsymbol{\Omega_j} Ωj的联合先验。Junker等人构建的DINA模型6需要 0 ≤ s j + g j ≤ 1 0 \le s_j + g_j \le 1 0sj+gj1 ,以此来提供潜在分类的区分信息。式9为 Ω j \boldsymbol{\Omega_j} Ωj的先验在试题参数上明确施加了单调性限制。特别的, p ( Ω j ) p(\boldsymbol{\Omega_j}) p(Ωj)的先验通过以 α s 、 β s 、 α g 、 β g \alpha_s、\beta_s、\alpha_g、\beta_g αsβsαgβg为参数的 s j s_j sj g j g_j gj的Beta密度函数的积进行了重构,并通过 P \mathcal{P} P来对参数 s j s_j sj g j g_j gj的取值范围上增加线性截断限制。通过选择 α s 、 β s 、 α g 、 β g \alpha_s、\beta_s、\alpha_g、\beta_g αsβsαgβg可以将失误率和猜对率的先验合并到不集中。请注意,选择无信息先验 α s = β s = α g = β g = 1 \alpha_s=\beta_s=\alpha_g=\beta_g=1 αs=βs=αg=βg=1与对 s j s_j sj g j g_j gj的先验采用线性截断是一致的。随后讨论的模拟实验将正式使用对失误率和猜对率使用无信息先验是有效的。

全条件分布

对于 α i , π , Ω j ) \boldsymbol{\alpha_i}, \boldsymbol{\pi},\boldsymbol{\Omega_j)} αi,π,Ωj)的全条件分布公式如下:
p ( α i ∣ y i , π , Ω ) = ∏ c = 1 C π ~ i , c I ( α i T ⋅ q j = q j T ⋅ q j ) , π ~ i , c = p ( α i = α c ∣ y i , π , Ω ) (10) p(\boldsymbol{\alpha_i|y_i,\pi,\Omega}) = \prod_{c=1}^C{\widetilde{\pi}_{i,c}^{\mathcal{I} (\boldsymbol{\alpha_i^T \cdot q_j = q_j^T \cdot q_j} ) }}, \widetilde{\pi}_{i,c}=p(\boldsymbol{\alpha_i=\alpha_c|y_i,\pi,\Omega}) \tag{10} p(αiyi,π,Ω)=c=1Cπ i,cI(αiTqj=qjTqj),π i,c=p(αi=αcyi,π,Ω)(10) π ∣ α i , … , α N ∝ D i r i c h l e t ( N ~ + δ 0 ) N ~ = ( N ~ 1 , … , N ~ C ) = ( ∑ i = 1 N I ( α i = α 1 ) , … , ∑ i = 1 N I ( α i = α C ) ) (11) \boldsymbol{\pi|\alpha_i,…,\alpha_N} \propto Dirichlet(\boldsymbol{\widetilde{N} + \delta_0}) \\ \boldsymbol{\widetilde{N}} = (\widetilde{N}_1,…,\widetilde{N}_C) = (\sum_{i=1}^{N}{\boldsymbol{\mathcal{I}(\alpha_i = \alpha_1)} },…,\sum_{i=1}^{N}{\boldsymbol{\mathcal{I}(\alpha_i = \alpha_C)} }) \tag{11} παi,,αNDirichlet(N +δ0)N =(N 1,,N C)=(i=1NI(αi=α1),,i=1NI(αi=αC))(11) p ( Ω j ∣ y j , η 1 , j , … , η N , j ) ∝ s j ( α ~ s − 1 ) ( 1 − s j ) ( β ~ s − 1 ) g j ( α ~ g − 1 ) ( 1 − g j ) ( β ~ g − 1 ) I ( ( s j , g j ) ∈ P ) α ~ s = S j + α s , β ~ s = T j − S j + β s α ~ g = G j + α g , β ~ g = N − T j − G j + β g T j = ∑ i = 1 N η i , j , S j = ∑ i ∣ y i , j = 0 N η i , j , G j = ∑ i ∣ y i , j = 1 N ( 1 − η i , j ) (12) p(\boldsymbol{\Omega_j|y_j},\eta_{1,j},…,\eta_{N,j}) \propto s_j^{(\widetilde{\alpha}_s - 1)}(1 - s_j)^{(\widetilde{\beta}_s - 1)}g_j^{(\widetilde{\alpha}_g - 1)}(1 - g_j)^{(\widetilde{\beta}_g - 1)}\mathcal{I} \left((s_j,g_j) \in \mathcal{P} \right) \\ \widetilde{\alpha}_s = \mathcal{S}_j + \alpha_s, \widetilde{\beta}_s = \mathcal{T}_j - \mathcal{S}_j + \beta_s \\ \widetilde{\alpha}_g = \mathcal{G}_j + \alpha_g, \widetilde{\beta}_g = N - \mathcal{T}_j - \mathcal{G}_j + \beta_g \\ \mathcal{T}_j = \sum_{i=1}^N{\eta_{i,j}}, \mathcal{S}_j = \sum_{i|y_{i,j} = 0}^N{\eta_{i,j}}, \mathcal{G}_j = \sum_{i|y_{i,j}=1}^N(1 - \eta_{i,j}) \tag{12} p(Ωjyj,η1,j,,ηN,j)sj(α s1)(1sj)(β s1)gj(α g1)(1gj)(β g1)I((sj,gj)P)α s=Sj+αs,β s=TjSj+βsα g=Gj+αg,β g=NTjGj+βgTj=i=1Nηi,j,Sj=iyi,j=0Nηi,j,Gj=iyi,j=1N(1ηi,j)(12) 式10显示 α i \boldsymbol{\alpha_i} αi的全条件分布式一个多分类分布,对于其中的分类 c c c的概率用 π ~ i , c \widetilde{\pi}_{i,c} π i,c来表示。特别的,贝叶斯理论表明,给定答题结果 y i \boldsymbol{y_i} yi, 试题参数 Ω \boldsymbol{\Omega} Ω, 各个类别出现的概率 π \boldsymbol{\pi} π的情况下学生 i i i的认知状态属于类别 c c c的概率如下:
π ~ i , c = p ( α i = α c ∣ y i , π , Ω ) = p ( y i ∣ α i = α c , Ω ) π c ∑ c = 1 C π c p ( y i ∣ α i = α c , Ω ) (13) \widetilde{\pi}_{i,c}=p(\boldsymbol{\alpha_i=\alpha_c|y_i,\pi,\Omega}) = \frac{p(\boldsymbol{y_i|\alpha_i=\alpha_c,\Omega})\pi_c}{\sum_{c=1}^C{\pi_cp(\boldsymbol{y_i|\alpha_i=\alpha_c,\Omega})}} \tag{13} π i,c=p(αi=αcyi,π,Ω)=c=1Cπcp(yiαi=αc,Ω)p(yiαi=αc,Ω)πc(13) α i \boldsymbol{\alpha_i} αi的全条件分布是一个以 π ~ i , 1 , … , π ~ i , C \widetilde{\pi}_{i,1},…,\widetilde{\pi}_{i,C} π i,1,,π i,C为概率的多项式分布。

式11阐述了 π \boldsymbol{\pi} π的全条件分布。特别的, π \boldsymbol{\pi} π的全条件分布可以被转化成如下形式:
p ( π ∣ α 1 , … , α N ) ∝ p ( α 1 , … , α N ∣ π ) p ( π ) = [ ∏ i = 1 N p ( α i ∣ π ) ] p ( π ) = [ ∏ i = 1 N ∏ c = 1 C π ~ c I ( α i T ⋅ q j = q j T ⋅ q j ) ] ∏ c = 1 C π c δ 0 , c = ∏ c = 1 C π c N ~ c + δ 0 , c (14) p(\boldsymbol{\pi|\alpha_1,…,\alpha_N}) \propto p(\boldsymbol{\alpha_1,…,\alpha_N|\pi})p(\boldsymbol{\pi}) = \left[\prod_{i=1}^Np(\boldsymbol{\alpha_i|\pi})\right]p(\boldsymbol{\pi}) \\ = \left[\prod_{i=1}^N{\prod_{c=1}^C{\widetilde{\pi}_{c}^{\mathcal{I} (\boldsymbol{\alpha_i^T \cdot q_j = q_j^T \cdot q_j} ) }}}\right] \prod_{c=1}^C{\pi_c^{\delta_{0,c}}} = \prod_{c=1}^C{\pi_c^{\widetilde{N}_c + \delta_{0,c}}} \tag{14} p(πα1,,αN)p(α1,,αNπ)p(π)=[i=1Np(αiπ)]p(π)=[i=1Nc=1Cπ cI(αiTqj=qjTqj)]c=1Cπcδ0,c=c=1CπcN c+δ0,c(14) 式14显示, π \boldsymbol{\pi} π的全条件分布是 α i \boldsymbol{\alpha_i} αi多项式先验的乘积和 π \boldsymbol{\pi} π的Dirichlet的先验分布。在MCMC算法迭代过程中,用向量 N ~ = ( N ~ 1 , … , N ~ C ) \boldsymbol{\widetilde{N}} = (\widetilde{N}_1,…,\widetilde{N}_C) N =(N 1,,N C)来表示 C C C种类别的学生人数,其中 N ~ c = ∑ i = 1 N I ( α i = α c ) \widetilde{N}_c = \sum_{i=1}^N{\mathcal{I}(\boldsymbol{\alpha_i = \alpha_c})} N c=i=1NI(αi=αc)代表认知状态为 c c c类的学生人数。相应的,式14中潜在类别概率的全条件分布服从 D i r i c h l e t ( N ~ + δ 0 ) Dirichlet(\boldsymbol{\widetilde{N} + \delta_0}) Dirichlet(N +δ0)

式12展示了试题参数 s j s_j sj g j g_j gj的全条件分布被简化成二项Beta分布。更精确的说, s j s_j sj g j g_j gj的全条件分布可以转化成:
p ( s j , g j ∣ y 1 , j , … , y N , j , α 1 , … , α N ) ∝ [ ∏ i − 1 N p ( y i , j ∣ α i , s j , g j ) ] p ( s j , g j ) ∝ { ∏ i = 1 N [ ( 1 − s j ) η i , j g j ( 1 − η i , j ) ] y i , j [ s j η i , j ( 1 − g j ) 1 − η i , j ] ( 1 − y i , j ) } ⋅ s j ( α s − 1 ) ( 1 − s j ) ( β s − 1 ) g j ( α g − 1 ) ( 1 − g j ) ( β g − 1 ) I ( ( s j , g j ) ∈ P ) = s j ( α ~ s − 1 ) ( 1 − s j ) ( β ~ s − 1 ) g j ( α ~ g − 1 ) ( 1 − g j ) ( β ~ g − 1 ) I ( ( s j , g j ) ∈ P ) (15) p(s_j,g_j|y_{1,j},…,y_{N,j},\boldsymbol{\alpha_1},…,\boldsymbol{\alpha_N}) \propto \left[ \prod_{i-1}^N{p(y_{i,j}|\boldsymbol{\alpha_i},s_j,g_j)}\right]p(s_j,g_j) \\ \propto \left\{\prod_{i=1}^N{\left[(1-s_j)^{\eta_{i,j}}g_j^{(1 - \eta_{i,j})}\right]^{y_{i,j}}\left[s_j^{\eta_{i,j}}(1-g_j)^{1-\eta_{i,j}}\right]^{(1-y_{i,j})}}\right\} \cdot \\ s_j^{(\alpha_s - 1)}(1 - s_j)^{(\beta_s - 1)}g_j^{(\alpha_g - 1)}(1 - g_j)^{(\beta_g - 1)}\mathcal{I} \left((s_j,g_j) \in \mathcal{P} \right) \\ = s_j^{(\widetilde{\alpha}_s - 1)}(1 - s_j)^{(\widetilde{\beta}_s - 1)}g_j^{(\widetilde{\alpha}_g - 1)}(1 - g_j)^{(\widetilde{\beta}_g - 1)}\mathcal{I} \left((s_j,g_j) \in \mathcal{P} \right) \tag{15} p(sj,gjy1,j,,yN,j,α1,,αN)[i1Np(yi,jαi,sj,gj)]p(sj,gj){i=1N[(1sj)ηi,jgj(1ηi,j)]yi,j[sjηi,j(1gj)1ηi,j](1yi,j)}sj(αs1)(1sj)(βs1)gj(αg1)(1gj)(βg1)I((sj,gj)P)=sj(α s1)(1sj)(β s1)gj(α g1)(1gj)(β g1)I((sj,gj)P)(15)式15的最终结果通过简化个体的乘积和采集 s j , 1 − s j , g j , 1 − g j s_j, 1-s_j, g_j, 1- g_j sj,1sj,gj,1gj的指数项进行构建。定义完式12后,可以回顾一下 α ~ s , β ~ s , α ~ s α ~ s \widetilde{\alpha}_s,\widetilde{\beta}_s,\widetilde{\alpha}_s\widetilde{\alpha}_s α s,β s,α sα s。在MCMC迭代过程中,令 T j = ∑ i = 1 N η i , j \mathcal{T}_j = \sum_{i=1}^N{\eta_{i,j}} Tj=i=1Nηi,j代表掌握答对试题 j j j所需知识点的学生人数。 S j = ∑ i ∣ y i , j = 0 N η i , j \mathcal{S}_j = \sum_{i|y_{i,j} = 0}^{N}{\eta_{i,j}} Sj=iyi,j=0Nηi,j代表掌握试题 j j j所需知识点,但是没有答对的学生人数, g j = ∑ i ∣ y i , j = 1 N ( 1 − η i , j ) \mathcal{g}_j = \sum_{i|y_{i,j} = 1}^{N}{(1 - \eta_{i,j})} gj=iyi,j=1N(1ηi,j)代表没有掌握试题 j j j所需知识点,但是猜对的学生人数。 s j , g j s_j,g_j sj,gj的全条件分布简化成了以 α ~ s , β ~ s , α ~ s α ~ s \widetilde{\alpha}_s,\widetilde{\beta}_s,\widetilde{\alpha}_s\widetilde{\alpha}_s α s,β s,α sα s为参数的Beta分布。附录中展示了在 0 ≤ s j + g j ≤ 1 0 \le s_j + g_j \le 1 0sj+gj1单调性约束条件下, s j s_j sj g j g_j gj的联合采样方法。

蒙特卡洛仿真研究

本节将阐述蒙特卡洛仿真的结果以证实MCMC算法的准确性,并提供有关收敛的其他信息。仿真研究类似于Torre等人设计的方案。仿真研究中, K = 5 , J = 30 , N = 1000 K = 5, J=30,N=1000 K=5,J=30,N=1000,并采用Torre等人之前使用的 Q Q Q矩阵。仿真研究关注三个话题:

第一、研究猜对率和失误率的两个条件,以此来理解潜在技能和试题如何影响参数的恢复(估计)。高诊断场景(潜在技能与试题之间具有强关系,猜对率和失误率都很低)将使用 g j = s j = 0.1 g_j = s_j = 0.1 gj=sj=0.1,低诊断场景将使用 g j = s j = 0.2 g_j = s_j = 0.2 gj=sj=0.2

第二、需要考虑两种场景下潜在类别的概率分布。回顾一下, π \boldsymbol{\pi} π表示学生的技能分布, π c \pi_c πc代表认知状态为潜在类别 α c \boldsymbol{\alpha_c} αc的学生占比。在第一种场景下,潜在类别的概率使用常数 π c = 2 − K \pi_c = 2^{-K} πc=2K(被试的技能分布是平均的,即各种认知状态发生的概率相同)。在第二种场景下,包含3个或以上知识点的认知状态类别发生的可能性是小于3个知识点的认知状态类别的两倍。也就是说,如果 α c \boldsymbol{\alpha_c} αc中包含的知识点小于3个,则该知识状态发生的概率为 π c = 0.021 \pi_c = 0.021 πc=0.021, 如果包含的知识点大于等于3个,则该知识状态发生的概率为 π c = 0.042 \pi_c = 0.042 πc=0.042

第三、仿真研究需对多项式后验分布收敛的迭代次数进行估计。对于每种场景,运行了5个链,并使用’coda’ R程序包计算了多项式潜在规模的缩小系数 R ^ \hat{R} R^,来评估 Ω \boldsymbol{\Omega} Ω π \boldsymbol{\pi} π的收敛情况。 R ^ \hat{R} R^的值小于1.1或1.2时就证明了该条例已经收敛了。注意 R ^ \hat{R} R^是针对50到2000的链长计算得来的,需要通过burn-in(去除前面数个不稳定的样本点)来达到收敛状态。

MCMC算法实现需要5000次迭代,其中前面1000次迭代会被丢掉(burn-in)。通过重复计算50次的 s j , g j , π s_j,g_j,\pi sj,gj,π的平均值和均方根误差(RMSE)来评估准确性。Beta分布和Dirichlet分布使用无信息先验 α s = β s = α g = β g = 1 , δ 0 = 1 32 \alpha_s=\beta_s=\alpha_g=\beta_g=1, \boldsymbol{\delta_0} = 1_{32} αs=βs=αg=βg=1,δ0=132,其中 1 32 1_{32} 132代表这一个32维全是1的向量。

图1提供了仿真后验分布收敛的正确。特别的,图1包含8个绘图面板,绘制了50个副本的 R ^ \hat{R} R^。图1整理了诊断条件会影响收敛,但是总体技能分布的本质不会影响 R ^ \hat{R} R^。比如,在高诊断场景中( s j = g j = 0.1 s_j = g_j = 0.1 sj=gj=0.1),经过300次迭代 R ^ < 1.1 \hat{R} < 1.1 R^<1.1,相反在第诊断场景中( s j = g j = 0.2 s_j = g_j = 0.2 sj=gj=0.2)大约经过750次迭代 R ^ < 1.1 \hat{R} < 1.1 R^<1.1。因此,蒙特卡洛证据表明,对于仿真研究,采用1000的预烧应该足以满足后验分布的收敛。
图1 蒙特卡洛仿真条件下多元潜在规模减小因子R。 注意:每个面板包括50个副本的R信息,R通过5条独立的链计算而来,图形基于长度从50到2500的链,递增单位为50 图 1 : 蒙 特 卡 洛 仿 真 条 件 下 多 元 潜 在 规 模 减 小 因 子 R ^ ( R ^ < 1.1 代 表 已 经 收 敛 ) 图1:蒙特卡洛仿真条件下多元潜在规模减小因子\hat{R}( \hat{R} < 1.1 代表已经收敛) 1仿R^(R^<1.1)

图2和图3绘制了 s j 、 g j 、 π s_j、g_j、\boldsymbol{\pi} sjgjπ蒙特卡洛估计的期望值,以及失误率和猜对率的根均方误差RMSE。图2表明算法在8中仿真条件下取得了较小的偏差。图3绘制了8中仿真条件下,失误率和猜对率的根均方误差。图2表明算法可以对试题参数进行无偏估计,这意味着图3中的根均方误差可以量化抽样变异性。
图2:试题失误率和猜对率估计结果 图 2 : 试 题 失 误 率 和 猜 对 率 估 计 结 果 图2:试题失误率和猜对率估计结果 2
如之前的研究类似,图3表明失误率参数的抽样变异性与试题需要的技能数量相关(试题所需知识点越多,失误率越大?)。有些包含三个知识点的试题,其失误率的抽样变异性是包含一个知识点试题的两倍。而且,失误率抽样变异性在平坦的 π \boldsymbol{\pi} π分布场景(相对于高技能分布场景)更高。因此图3表明试题 q j \boldsymbol{q_j} qj中的1的数量和分布影响着试题失误率的抽样变异性。相反,图3表明,需要更多技能的试题,其猜对率 g j g_j gj的抽样变异性更小。
图3:失误率和猜对率的根均方误差 图 3 : 失 误 率 和 猜 对 率 的 根 均 方 误 差 图3:失误率和猜对率的根均方误差 3
包含三个知识点的试题的失误率根均方误差RMSE超过了0.04,在偏差接近于0请情况下,误差范围约为 ± 0.08 \pm 0.08 ±0.08。存在两种可能的解释,一种是算法虽然是无偏的,单位效果很差;另外一种是图3观测到采样变异性可能是DINA模型的特征。请注意,Torre在项目所需的技能和项目参数的RMSE之间发现了相似的关系,但是失误率和猜对率的最大标准误差为0.031和0.017(N=2000, π \pi π为平坦分布)。Torre发现猜对率的根均方误差RMSE与 q ′ q \boldsymbol{q\prime q} qq呈现负相关,猜对率的根均方误差RMSE与 q ′ q \boldsymbol{q\prime q} qq呈现正相关。另一项模仿Torre的仿真研究使用了100个样本也证明了这两种解释的合理性。在后续的仿真研究中,失误率和猜对率最大的RMSE为0.032和0.017,这为后一种解释提供了证据,即失误率(猜对率)对于包含更多(更少)技能的试题具有更大的变异性。

图4和图5给出了使用蒙特卡洛方法,潜在技能分布 π \boldsymbol{\pi} π的偏差和RMSE。与图2类似,算法在整个防止条件得出了 π \boldsymbol{\pi} π的无偏估计。
图4 潜在类别发生概率π的估计结果 图 4 : 潜 在 类 别 发 生 概 率 π 的 估 计 结 果 图4:潜在类别发生概率 \pi 的估计结果 4:π
图5展示了 π \boldsymbol{\pi} π的RMSE,并展示了其采样变异性。与图3不同的是,图5表明 π \boldsymbol{\pi} π的RMSE与诊断条件以及潜在类别的技能分布无关。然而在图5的 h h h面板中, π c \pi_c πc在技能较少的潜在类别中的采样变异性却增加了。
图5:潜在类别发生概率π的RMSE 图 5 : 潜 在 类 别 发 生 概 率 π 的 R M S E 图5:潜在类别发生概率 \pi 的RMSE 5:πRMSE

简而言之,蒙特卡洛防止研究可以得出以下几个结论:首先,新的Gibbs采样方法可以准确估计模型参数,其次,当采用非先验信息时,算法时准确的,第三,结果表明模型可以在合理的迭代次数后收敛。

应用:空时可视化测试

作者使用Gibbs采样对空间可视化测试(在三维空间中通过旋转和平移从一种状态转化成另外一种状态的测试)的进行参数估计(估计的结果中有的试题猜对率和失误率竟然超过了5,0% (゜ロ゜))。该部分不进行翻译。

讨论

本研究为广泛使用的DINA模型提供了贝叶斯表达式。并开发了一款高效的贝叶斯采样算法来进行模型的参数估计。本节将在现有的研究背景下讨论本文的研究优点,同时对未来改进方向进行展望。

首先,本文提出的公式可以进行扩展来进行 Q \boldsymbol{Q} Q的估计。认知诊断模型假定研究者能精确的试题中包含的知识点进行标记。最近的研究者们开始对 Q \boldsymbol{Q} Q的估计程序及 Q \boldsymbol{Q} Q矩阵的错误检查进行研究。比如,Chiu提供了优化 Q \boldsymbol{Q} Q的概述方法,此外,Decarlo和Templin等人不是采用固有的方式来确定 Q \boldsymbol{Q} Q矩阵的值,而是使用贝叶斯方法来随机选择 Q \boldsymbol{Q} Q中元素的值。注意Templin等人才用了MH采样方法,而Decarlo使用了Gibbs采样方法:OpenBUGS 。本文提出的Gibbs采样方法可以结合先前的策略来对 Q \boldsymbol{Q} Q矩阵进行建模,这么做的好处有:1、优化混合 、 p m b Ω 、pmb{\Omega} pmbΩ π \boldsymbol{\pi} π 2、强制加入单调性需求,3、无需微调方便使用。

第二,DINA模型时众多通用认知诊断模型的一个特例。之后的研究可以在更多的认知诊断模型上使用贝叶斯公式。

第三,蒙特卡洛仿真研究表明,算法在估计参数的后验分布时,可以在合理的迭代次数下收敛。比如图1表明Gibbs采样可以在最多经过750次迭代后就可以收敛。而且实验表明,算法在使用 Ω \boldsymbol{\Omega} Ω π \boldsymbol{\pi} π无信息先验时,可以取得较高的精度。

计算 2 K 2^K 2K的潜在类别全条件分布并非没有缺点,“当 α \boldsymbol{\alpha} α的维度超过 K = 3 或 K = 4 K=3或K=4 K=3K=4时,需要进行简化(Torre 2004)2”。MCMC程序基于Rcpp包使用C++语言开发,当 J = 30 , K = 5 , N = 1000 J=30, K=5, N=1000 J=30,K=5,N=1000时,在2.4GHz处理器、6GB内存的平台上,完成5000次迭代需要128秒。然而,Gibbs采样可能还需要更多的计算资源。例如Torre运用非线性因素分析对潜在技能背后的高阶因素进行建模,提出了HO-DINA模型,该模型中各个技能是相互独立的,通过给定的 K ′ K^{\prime} K( K ′ ≤ K K^{\prime} \le K KK)维连续值 θ i \theta_i θi来进行计算,比如 p ( α i ∣ θ i ) = ∏ k = 1 K p ( α i , j ∣ θ i ) p(\boldsymbol{\alpha_i|\theta_i}) = \prod_{k=1}^K{p(\alpha_{i,j}|\boldsymbol{\theta_i})} p(αiθi)=k=1Kp(αi,jθi)。HO-DINA使用 K ′ ( K ′ − 1 ) / 2 K^{\prime}(K^{\prime} - 1)/2 K(K1)/2个参数来近似模拟 2 K 2^K 2K个潜在类别。如果 K = 20 K=20 K=20,会产生1048576个类别,本文提出的算法,在每轮迭代都会逐一遍历各个潜在类别。相反,在HO-DINA模型中,如果 K ′ = 20 K^{\prime} = 20 K=20,只需估计230个参数即可,如果近似适当,则计算上有非常大的优势。因此高维认知诊断需要跟进一步进行研究。

总的来说,本文为DINA模型提供了贝叶斯公式,为轻松估计模型参数提供了一种选择。

参考文献

[1]. Maris, E. (1999). Estimating multiple classification latent class models. Psychometrika,
64, 187–212.
作者研究了潜在多分类认知诊断模型得固有性质,首次提出使用蒙特卡洛采样(MCMC)方法对认知诊断模型进行参数估计
[2]. de la Torre, J., & Douglas, J. A. (2004). Higher-order latent trait models for cognitive diagnosis. Psychometrika, 69, 333–353.
作者提出了高阶DINA模型:HO-DINA,认为学生得知识点掌握情况受学生学习能力等高阶因素得影响,同时作者使用了MCMC方法对HO-DINA模型进行了参数估计
[3]. Roussos, L. A., DiBello, L. V., Stout, W., Hartz, S. M., Henson, R. A., & Templin, J. L. (2007). The fusion model skills diagnosis system. In J. P. Leighton & M. J. Gierl (Eds.), Cognitive diagnostic assessment for education: Theory and applications (pp.275–318). Cambridge, England: Cambridge University Press.
作者回顾了融合认知诊断模型,并对认知诊断模型得参数估计方法进行了总结该篇论文暂时不提供下载
[4]. DeCarlo, L. T. (2012). Recognizing uncertainty in the Q-matrix via a Bayesian extension of the DINA model. Applied Psychological Measurement, 36, 447–468.
作者使用贝叶斯方法对DINA模型中的Q矩阵进行合理性识别并对分数减法数据集的Q矩阵进行了矫正,该篇论文暂时不提供下载
[5]. Li F. A modified higher-order DINA model for detecting differential item functioning and differential attribute functioning |D|. uga, 2008.
文章基于HO-DINA提出了一个新的模型,并使用Gibbs采样对模型进行了参数估计。实验部分,作者于MH采样方法进行了对比。
[6]. Junker, B. W., & Sijtsma, K. (2001). Cognitive assessment models with few assumptions, and connections with nonparametric item response theory. Applied Psychological Measurement, 25, 258–272.
作者对认知诊断模型的单调性进行着论证,提出了一些假设(猜对率和失误率之和小于1),是的模型具有更好的可用性和可解释性。

这篇关于[论文翻译][2015][28]Bayesian Estimation of the DINA Model With Gibbs Sampling(基于Gibbs采样的DINA模型贝叶斯参数估计方法)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/381430

相关文章

大模型研发全揭秘:客服工单数据标注的完整攻略

在人工智能(AI)领域,数据标注是模型训练过程中至关重要的一步。无论你是新手还是有经验的从业者,掌握数据标注的技术细节和常见问题的解决方案都能为你的AI项目增添不少价值。在电信运营商的客服系统中,工单数据是客户问题和解决方案的重要记录。通过对这些工单数据进行有效标注,不仅能够帮助提升客服自动化系统的智能化水平,还能优化客户服务流程,提高客户满意度。本文将详细介绍如何在电信运营商客服工单的背景下进行

Andrej Karpathy最新采访:认知核心模型10亿参数就够了,AI会打破教育不公的僵局

夕小瑶科技说 原创  作者 | 海野 AI圈子的红人,AI大神Andrej Karpathy,曾是OpenAI联合创始人之一,特斯拉AI总监。上一次的动态是官宣创办一家名为 Eureka Labs 的人工智能+教育公司 ,宣布将长期致力于AI原生教育。 近日,Andrej Karpathy接受了No Priors(投资博客)的采访,与硅谷知名投资人 Sara Guo 和 Elad G

【C++】_list常用方法解析及模拟实现

相信自己的力量,只要对自己始终保持信心,尽自己最大努力去完成任何事,就算事情最终结果是失败了,努力了也不留遗憾。💓💓💓 目录   ✨说在前面 🍋知识点一:什么是list? •🌰1.list的定义 •🌰2.list的基本特性 •🌰3.常用接口介绍 🍋知识点二:list常用接口 •🌰1.默认成员函数 🔥构造函数(⭐) 🔥析构函数 •🌰2.list对象

Retrieval-based-Voice-Conversion-WebUI模型构建指南

一、模型介绍 Retrieval-based-Voice-Conversion-WebUI(简称 RVC)模型是一个基于 VITS(Variational Inference with adversarial learning for end-to-end Text-to-Speech)的简单易用的语音转换框架。 具有以下特点 简单易用:RVC 模型通过简单易用的网页界面,使得用户无需深入了

浅谈主机加固,六种有效的主机加固方法

在数字化时代,数据的价值不言而喻,但随之而来的安全威胁也日益严峻。从勒索病毒到内部泄露,企业的数据安全面临着前所未有的挑战。为了应对这些挑战,一种全新的主机加固解决方案应运而生。 MCK主机加固解决方案,采用先进的安全容器中间件技术,构建起一套内核级的纵深立体防护体系。这一体系突破了传统安全防护的局限,即使在管理员权限被恶意利用的情况下,也能确保服务器的安全稳定运行。 普适主机加固措施:

webm怎么转换成mp4?这几种方法超多人在用!

webm怎么转换成mp4?WebM作为一种新兴的视频编码格式,近年来逐渐进入大众视野,其背后承载着诸多优势,但同时也伴随着不容忽视的局限性,首要挑战在于其兼容性边界,尽管WebM已广泛适应于众多网站与软件平台,但在特定应用环境或老旧设备上,其兼容难题依旧凸显,为用户体验带来不便,再者,WebM格式的非普适性也体现在编辑流程上,由于它并非行业内的通用标准,编辑过程中可能会遭遇格式不兼容的障碍,导致操

透彻!驯服大型语言模型(LLMs)的五种方法,及具体方法选择思路

引言 随着时间的发展,大型语言模型不再停留在演示阶段而是逐步面向生产系统的应用,随着人们期望的不断增加,目标也发生了巨大的变化。在短短的几个月的时间里,人们对大模型的认识已经从对其zero-shot能力感到惊讶,转变为考虑改进模型质量、提高模型可用性。 「大语言模型(LLMs)其实就是利用高容量的模型架构(例如Transformer)对海量的、多种多样的数据分布进行建模得到,它包含了大量的先验

图神经网络模型介绍(1)

我们将图神经网络分为基于谱域的模型和基于空域的模型,并按照发展顺序详解每个类别中的重要模型。 1.1基于谱域的图神经网络         谱域上的图卷积在图学习迈向深度学习的发展历程中起到了关键的作用。本节主要介绍三个具有代表性的谱域图神经网络:谱图卷积网络、切比雪夫网络和图卷积网络。 (1)谱图卷积网络 卷积定理:函数卷积的傅里叶变换是函数傅里叶变换的乘积,即F{f*g}

秋招最新大模型算法面试,熬夜都要肝完它

💥大家在面试大模型LLM这个板块的时候,不知道面试完会不会复盘、总结,做笔记的习惯,这份大模型算法岗面试八股笔记也帮助不少人拿到过offer ✨对于面试大模型算法工程师会有一定的帮助,都附有完整答案,熬夜也要看完,祝大家一臂之力 这份《大模型算法工程师面试题》已经上传CSDN,还有完整版的大模型 AI 学习资料,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

AI hospital 论文Idea

一、Benchmarking Large Language Models on Communicative Medical Coaching: A Dataset and a Novel System论文地址含代码 大多数现有模型和工具主要迎合以患者为中心的服务。这项工作深入探讨了LLMs在提高医疗专业人员的沟通能力。目标是构建一个模拟实践环境,人类医生(即医学学习者)可以在其中与患者代理进行医学