使用 libfaiss_c.a 时，FAISS CGO 抛出“架构 arm64 的未定义符号”

php小编子墨通过使用libfaiss_c.a时，遇到了一个问题，即FAISS CGO抛出了“架构arm64的未定义符号”的错误。这个错误可能是由于在64位ARM架构上使用libfaiss_c.a时，缺少某些符号导致的。要解决这个问题，可以尝试更新或重新编译libfaiss_c.a，确保它是适用于arm64架构的版本。此外，还可以检查是否使用了正确的编译选项和链接选项。希望这些解决方法能够帮助到遇到类似问题的开发者们。

问题内容

我正在尝试编写一个独立的 go-faiss 包装器来调用 FAISS 的 KMEANS 函数。
仓库：https://www.php.cn/link/4e4faae72b1c3cbd446a70e89e59d8fc

这种方法的灵感来自https://github.com/andyalm/faissmask/tree/master/FaissMask/runtimes

FAISS静态库libfaiss_c.a使用-DBUILD_SHARED_LIBS=OFF构建

当我将该库与 CGO 链接时，我得到

错误日志

# faiss-go/pkg/ivf.test
/usr/local/go/pkg/tool/darwin_arm64/link: running clang failed: exit status 1
Undefined symbols for architecture arm64:
"faiss::Clustering::Clustering(int, int)", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
"faiss::Clustering::Clustering(int, int, faiss::ClusteringParameters const&)", referenced from:
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
"faiss::kmeans_clustering(unsigned long, unsigned long, unsigned long, float const*, float*)", referenced from:
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"faiss::ClusteringParameters::ClusteringParameters()", referenced from:
_faiss_ClusteringParameters_init in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
"std::exception_ptr::exception_ptr(std::exception_ptr const&)", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
"std::exception_ptr::~exception_ptr()", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
thread-local wrapper routine for faiss_last_exception in libfaiss_c.a(error_impl.cpp.o)
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering.cold.1 in libfaiss_c.a(Clustering_c.cpp.o)
...
"std::exception_ptr::operator=(std::exception_ptr const&)", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering.cold.1 in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering.cold.2 in libfaiss_c.a(Clustering_c.cpp.o)
"std::runtime_error::runtime_error(char const*)", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"std::runtime_error::runtime_error(std::runtime_error const&)", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"std::runtime_error::~runtime_error()", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering.cold.2 in libfaiss_c.a(Clustering_c.cpp.o)
"std::__1::basic_string, std::__1::allocator>::basic_string(std::__1::basic_string, std::__1::allocator> const&)", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::FaissException(faiss::FaissException const&) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"std::exception::~exception()", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering.cold.1 in libfaiss_c.a(Clustering_c.cpp.o)
"std::exception::~exception()", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::FaissException(faiss::FaissException const&) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::~FaissException() in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"std::current_exception()", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"std::rethrow_exception(std::exception_ptr)", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
"std::terminate()", referenced from:
___clang_call_terminate in libfaiss_c.a(Clustering_c.cpp.o)
"typeinfo for faiss::FaissException", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table21 in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table28 in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table29 in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table31 in libfaiss_c.a(Clustering_c.cpp.o)
...
"typeinfo for std::runtime_error", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"typeinfo for std::exception", referenced from:
GCC_except_table0 in libfaiss_c.a(error_impl.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table21 in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table28 in libfaiss_c.a(Clustering_c.cpp.o)
GCC_except_table29 in libfaiss_c.a(Clustering_c.cpp.o)
...
"vtable for faiss::FaissException", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::FaissException(faiss::FaissException const&) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::~FaissException() in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
NOTE: a missing vtable usually means the first non-inline virtual member function has no definition.
"vtable for std::exception", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
NOTE: a missing vtable usually means the first non-inline virtual member function has no definition.
"operator delete(void*)", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::~FaissException() in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"operator new(unsigned long)", referenced from:
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
"___cxa_allocate_exception", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"___cxa_begin_catch", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
___clang_call_terminate in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
...
"___cxa_end_catch", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
...
"___cxa_free_exception", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"___cxa_throw", referenced from:
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_train in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_kmeans_clustering in libfaiss_c.a(Clustering_c.cpp.o)
"___gxx_personality_v0", referenced from:
_faiss_get_last_error in libfaiss_c.a(error_impl.cpp.o)
_faiss_Clustering_new in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::runtime_error) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](std::exception) in libfaiss_c.a(Clustering_c.cpp.o)
std::exception_ptr std::make_exception_ptr[abi:v15006](faiss::FaissException) in libfaiss_c.a(Clustering_c.cpp.o)
faiss::FaissException::FaissException(faiss::FaissException const&) in libfaiss_c.a(Clustering_c.cpp.o)
_faiss_Clustering_new_with_params in libfaiss_c.a(Clustering_c.cpp.o)
...
ld: symbol(s) not found for architecture arm64
clang: error: linker command failed with exit code 1 (use -v to see invocation)

登录后复制

我正在使用这些 CGO 标头

/*
#cgo darwin LDFLAGS: -L${SRCDIR}/../../cgo/thirdparty/runtimes/osx-arm64/native -lfaiss_c

#include
#include
#include
#include
#include
*/

登录后复制

但是，当我们使用 -DBUILD_SHARED_LIBS=ON 构建 libfaiss_c.dylib 并将 libfaiss_c.dylib 添加到 /usr/local/lib 时，此 CGO 代码可以正常工作。 CGO 标头现在如下所示

/*
#cgo LDFLAGS: -lfaiss_c

#include
#include
#include
#include
#include
*/

登录后复制

请帮助我从自定义路径将 *.a 文件与 CGO 链接起来。

更新 1

当我在 /usr/local/lib 中有这些文件时

测试运行

这些写入 /usr/local/lib 的文件是使用下面的 make 文件创建的

GIT_COMMAND ?= git
FAISS_COMMIT ?= d87888b13e7eb339bb9c45825e9d20def6665171

all: faiss

.PHONY: faiss
faiss:
if [ -e faiss ]; then
cd faiss && ${GIT_COMMAND} fetch origin && git reset --hard $(FAISS_COMMIT);
else
${GIT_COMMAND} clone https://github.com/facebookresearch/faiss.git && cd faiss && git reset --hard $(FAISS_COMMIT);
fi
cd faiss &&
export CMAKE_PREFIX_PATH=/opt/homebrew/opt/openblas:/opt/homebrew/opt/libomp:/opt/homebrew &&
cmake -B build -DFAISS_ENABLE_GPU=OFF -DFAISS_ENABLE_C_API=ON -DBUILD_SHARED_LIBS=ON -DFAISS_ENABLE_PYTHON=OFF . &&
make -C build &&
sudo make -C build install &&
sudo cp build/c_api/libfaiss_c.dylib /usr/local/lib/libfaiss_c.dylib

登录后复制

更新2

对于 go-rocks 数据库库，
https://github.com/linxGnu/grocksdb#build

他们还建议在本地安装/构建rocksdb库并将其与cgo接口链接。

这种独立构建静态库“*.a”并将其作为独立库提供的方法是否有效？

更新3

Go版本

$ go version
go version go1.20 darwin/arm64

登录后复制

操作系统和处理器架构？

$ go env
GO111MODULE="on"
GOARCH="arm64"
GOBIN=""
GOEXE=""
GOEXPERIMENT=""
GOFLAGS=""
GOHOSTARCH="arm64"
GOHOSTOS="darwin"
GOINSECURE=""
GONOPROXY=""
GONOSUMDB=""
GOOS="darwin"
GOPRIVATE=""
GOPROXY="https://proxy.golang.org,direct"
GOROOT="/usr/local/go"
GOSUMDB="sum.golang.org"
GOTMPDIR=""
GOTOOLDIR="/usr/local/go/pkg/tool/darwin_arm64"
GOVCS=""
GOVERSION="go1.20"
GCCGO="gccgo"
AR="ar"
CC="clang"
CXX="clang++"
CGO_ENABLED="1"
GOMOD="/Users/me/GolandProjects/0learning/faiss-cgo-kmeans/go.mod"
GOWORK=""
CGO_CFLAGS="-O2 -g"
CGO_CPPFLAGS=""
CGO_CXXFLAGS="-O2 -g"
CGO_FFLAGS="-O2 -g"
CGO_LDFLAGS="-O2 -g"
PKG_CONFIG="pkg-config"

登录后复制

更新 4

参考：
https://stackoverflow.com/a/63321095/1609570

➜ native git:(master) otool -L libfaiss_c.a
Archive : libfaiss_c.a
libfaiss_c.a(AutoTune_c.cpp.o):
libfaiss_c.a(Clustering_c.cpp.o):
libfaiss_c.a(IndexFlat_c.cpp.o):
libfaiss_c.a(IndexIVFFlat_c.cpp.o):
libfaiss_c.a(IndexIVF_c.cpp.o):
libfaiss_c.a(IndexLSH_c.cpp.o):
libfaiss_c.a(IndexPreTransform_c.cpp.o):
libfaiss_c.a(VectorTransform_c.cpp.o):
libfaiss_c.a(IndexShards_c.cpp.o):
libfaiss_c.a(IndexReplicas_c.cpp.o):
libfaiss_c.a(Index_c.cpp.o):
libfaiss_c.a(IndexBinary_c.cpp.o):
libfaiss_c.a(IndexScalarQuantizer_c.cpp.o):
libfaiss_c.a(MetaIndexes_c.cpp.o):
libfaiss_c.a(clone_index_c.cpp.o):
libfaiss_c.a(error_impl.cpp.o):
libfaiss_c.a(index_factory_c.cpp.o):
libfaiss_c.a(index_io_c.cpp.o):
libfaiss_c.a(AuxIndexStructures_c.cpp.o):
libfaiss_c.a(distances_c.cpp.o):
➜ native git:(master)

登录后复制

解决方法

感谢 @HarishGanesan 指出 FAISS c_api 依赖于 FAISS ，静态链接也需要包含它。

在研究了 CockroachDB 的 c-rocksdb 的实现之后，我发现一些额外的标志可以帮助解决架构arm64错误的undefined符号

/*
#cgo CPPFLAGS: -Ithirdparty/libfaiss-src/c_api
#cgo CFLAGS: -Ithirdparty/libfaiss-src/c_api
#cgo darwin LDFLAGS: -Lthirdparty/runtimes/osx-arm64/native -lfaiss_c -lfaiss -lomp
#cgo darwin LDFLAGS: -Wl,-undefined -Wl,dynamic_lookup
#cgo !darwin LDFLAGS: -Wl,-unresolved-symbols=ignore-all

#include
#include
#include
#include
#include
*/

登录后复制

此代码目前适用于 Macbook M1 芯片和 M2 芯片。

完整代码可以在此处找到。

更新 1

https://www.php.cn/link/307eb8ee16198da891c521eca21464c1

https://www.php.cn/link/d585d095b00cd2f5b50acb64add23834

这些项目是对外部 C 库进行静态链接的良好参考点。

以上就是使用 libfaiss_c.a 时，FAISS CGO 抛出“架构 arm64 的未定义符号”的详细内容，更多请关注每日运维网(www.mryunwei.com)其它相关文章！