解:(1)∵方程kx
2+2(k-3)x+(k-3)=0的两个不相等的实根,
∴

,
解得:k<3且k≠0,
又∵k为非负整数,
∴k=1,k=2,
又∵y=(k-2)x+m为一次函数,
∴k≠2,故k=1;
(2)当k=1时,方程kx
2+2(k-3)x+(k-3)=0即为:x
2-4x-2=0,
∵a,b是方程x
2-4x-2=0的两个不相等的根,
∴a+b=4,ab=-2.
∵一次函数y=(k-2)x+m与反比例函数

的图象都经过点(a,b),
∴点(a,b)满足函数解析式,∴

,
解得

,
∴

,
∴一次函数为:y=-x+4,反比例函数为y=-

.
分析:(1)根据△>0求出k的取值范围,再根据k是非负整数进而确定k的值.
(2)a、b是关于x的方程kx
2+2(k-3)x+(k-3)=0的两个不相等的实根,由韦达定理得出a+b及ab的值,再根据待定系数法求解.
点评:本题考查了反比例函数与一次函数的交点及根的判别式,难度较大,关键掌握用待定系数法求函数的解析式.