LZ不妨换个角度思考

你想要的那张marriage certificate其实是法律在给你们的这份感情做背书

如果你俩感情非常好，彼此信任到一定程度后，真的还需要法律来保障吗？

根据你的描述，你俩现在已经把对方当成配偶了

另外如果涉及到物质资源的分配，common-law relationship可能更容易操作一些